โปรแกรมสามารถตั้งข้อหาตามคำอธิบายเป็นลายลักษณ์อักษร ที่มีความถูกต้อง 97% กล่าวโดยทีม Chinese Academy of Science ผู้พัฒนาระบบ แต่หลายคนมองว่า นี่เป็นอุปกรณ์ที่อาจใช้เพื่อจุดประสงค์ที่เลวร้ายในการกำจัดผู้เห็นต่าง
กรณีที่หุ่นยนต์สามารถดำเนินคดีได้ ได้แก่ อาชญากรรมทั่วไปซึ่งรวมบางกรณี เช่น “การโค่นล้มอำนาจทางการเมืองของรัฐ” และ “การบ่อนทำลายความสามัคคีของชาติ” อาชญากรรมที่คลุมเครือมักตั้งข้อหากับผู้เห็นต่างและสหประชาชาติเชื่อว่าสามารถใช้กับ “การสื่อสารความคิด”
ความจริงที่ว่า AI สามารถดำเนินคดีกับความแปรปรวนในมุมมองหรือความเชื่อ ทำให้เกิดความกังวลว่าข้อกำหนดเหล่านี้ประกอบขึ้นอย่างไรและรัฐสามารถใช้ระบบเพื่อขยายคำจำกัดความทางกฎหมายได้หรือไม่ โดยไม่มีใครรับผิดชอบต่อข้อจำกัดที่กำลังขยายตัว
การเอามนุษย์ออกจากระบบตัดสินคดีความ
หุ่นยนต์ถูกสร้างขึ้นและทดสอบในสำนักงานอัยการของ Shanghai Pudong People ซึ่งเป็นสำนักงานอัยการเขตที่กว้างขวางและหนาแน่นที่สุดของประเทศ ซึ่งทีมจะพัฒนาหุ่นยนต์เพื่อรวมอาชญากรรมและคดีที่สูงขึ้น
ตามที่ศาสตราจารย์ Shi Yong ผู้อำนวยการห้องปฏิบัติการการจัดการข้อมูลขนาดใหญ่และความรู้ของ Chinese Academy of Sciences เทคโนโลยีสามารถลดภาระงานประจำวันของพนักงานอัยการได้ ทำให้พวกเขามุ่งเน้นไปที่งานที่ท้าทายมากได้ขึ้น “ระบบสามารถแทนที่อัยการในกระบวนการตัดสินใจได้ในระดับหนึ่ง”
วิศวกรปรับปรุงเครื่องจักรโดยใช้เคสมากกว่า 17,000 คดีตั้งแต่ปี 2015 – 2020 ปัจจุบันสามารถระบุและเรียกเก็บเงินสำหรับอาชญากรรมที่ก่ออาชญากรรมบ่อยที่สุดแปดแห่งของเซี่ยงไฮ้ การฉ้อโกงบัตรเครดิต, การพนัน, การขับขี่ที่อันตราย, การโจรกรรม, การฉ้อโกง, การบาดเจ็บโดยเจตนา, การขัดขวางหน้าที่ราชการ, การทะเลาะวิวาทและก่อให้เกิดปัญหา
สำหรับตอนนี้ ระบบยังไม่มีบทบาทในกระบวนการตัดสินใจและไม่แนะนำระยะเวลาโทษจำคุก อย่างไรก็ตาม มีความกลัวอยู่ว่ามันสามารถนำมาใช้เพื่อปราบผู้ที่ไม่เห็นด้วยกับรัฐบาลได้
ปัญญาประดิษฐ์ในการบังคับใช้กฎหมายกำลังเป็นที่แพร่หลาย
เทคโนโลยี AI มีอยู่แล้วในการบังคับใช้กฎหมาย แต่นี่จะเป็นครั้งแรกที่มีการใช้ในการตั้งข้อหา ..ตัวอย่างเช่น การจดจำภาพและพิสูจน์หลักฐานออนไลน์ช่วยเรื่องคดีในเยอรมนี ในขณะเดียวกัน จีนได้ใช้เครื่องมือที่เรียกว่า System 206 ตั้งแต่ปี 2016 เพื่อประเมินหลักฐาน เงื่อนไขในการจับกุม และหากผู้ต้องสงสัยก่อให้เกิดอันตรายต่อสาธารณะ
ทางการจีนเปิดตัวศาลไซเบอร์แห่งแรกของประเทศในปี 2017 ทำให้จีนก้าวไปข้างหน้าในการแข่งขัน AI ทั่วโลก อนุญาตให้ฝ่ายต่างๆ ในคดีที่เกี่ยวข้องกับไซเบอร์ เช่น อีคอมเมิร์ซ ปรากฏผ่านวิดีโอต่อหน้าผู้พิพากษาที่ใช้ AI แม้ว่าแนวคิดนี้จะช่วยให้ระบบจัดการกับกรณีที่ใหญ่ขึ้น แต่ผู้พิพากษาที่เป็นมนุษย์ยังคงติดตามทุกขั้นตอนก่อนที่จะมีการพิจารณาคดี
ในขั้นตอนสู่ระบบ NLP บนคอมพิวเตอร์พื้นฐาน ทีมงานวางแผนที่จะอัพเกรดเครื่องของพวกเขาเพื่อให้รับรู้ถึงอาชญากรรมที่ไม่ค่อยเกิดขึ้น และยื่นฟ้องผู้ต้องสงสัย
อัยการคนหนึ่งในกวางโจวที่ไม่ขอเปิดเผยชื่อ แสดงความกังวลเกี่ยวกับผู้พิพากษาและคณะลูกขุนด้วยคอมพิวเตอร์ใหม่ว่า “ความแม่นยำ 97% อาจสูงจากมุมมองทางเทคโนโลยี แต่ก็มีโอกาสผิดพลาดได้เสมอ ใครจะรับผิดชอบเมื่อมันเกิดขึ้น? อัยการ เครื่องจักร หรือผู้ออกแบบอัลกอริทึม”
เขาเสริมว่าอัยการที่เป็นมนุษย์หลายคน ไม่ต้องการให้คอมพิวเตอร์เข้าไปยุ่งเกี่ยวกับงานของพวกเขา และเสริมว่า “AI อาจช่วยตรวจจับความผิดพลาดได้ แต่ก็ไม่สามารถแทนที่มนุษย์ในการตัดสินใจได้” โดยสรุปแล้ว น่าสนใจที่จะเห็นว่าเกิดอะไรขึ้นเมื่อมีการแทนที่มนุษย์ด้วยโปรแกรมคอมพิวเตอร์อย่างเดียว?
