Coded Bias | รหัสอคติ (2020)

Coded Bias | รหัสอคติ (2020)

เชื่อว่าหลายคนคงเคยเล่นเกมประมาณว่า ใบหน้าแบบนี้เหมาะจะเป็นอาชีพอะไร ทดสอบอายุของคุณผ่านใบนี้ ซึ่งสิ่งเหล่านี้ล้วนแล้วแต่ใช้ระบบเอไอเพื่อตรวจสอบ แท้จริงแล้วการที่เอไอวิเคราะห์ให้มีผลลัพธ์ต่างๆ นาๆ นั้น มันคือสิ่งที่เอไอเลือกปฏิบัติและมีอคติ มันอาจจะฟังดูเป็นเรื่องขำๆ แต่เมื่อได้ดู หนังออนไลน์ สารคดีเรื่อง “Coded Bias รหัสอคติ” แล้วคุณจะเข้าใจว่ามันอันตรายกว่าที่คิดมากๆ 

Coded Bias ภาพยนตร์แนว สารคดี Documentary กำกับโดย ชาลินี่ แคนเทย์ยา เรื่องราวที่จะพาทุกคนไปสำรวจด้านมืดของเอไอ ที่ทุกคนมองว่าเป็นสิ่งที่ล้ำและสำคัญกับมนุษย์มากๆ แต่หารู้ไม่ว่าพวกมันถูกสร้างโดยกลุ่มคนที่แฝงอคติของตัวเองเข้าไปในซอฟต์แวร์และมันจะส่งผลร้ายกับมนุษยชาติได้ในอนาคต

รหัสอคติ

สารคดีพาเราไปที่สถาบันเทคโนโลยีแมสซาชูเซตส์ มหาวิทยาลัยเคมบริดจ์ รัฐแมสซาชูเซตส์ นักศึกษาหญิงคนหนึ่งชื่อ จอย บูโอแลมวินี ที่กำลังทำโปรเจกต์ศิลปะโดยใช้เทคโนโลยีคอมพิวเตอร์วิสัยทัศน์ เธออยากสร้างกระจกที่ให้แรงบันดาลใจในตอนเช้า ตั้งชื่อว่า “กระจกมุ่งหวัง” ที่อาจนำสิงโตไปทาบหน้าหรือคนที่สร้างแรงบันดาลใจให้กับเธอย่าง เซรีน่า วิลเลียมส์ เมื่อตั้งกล้องแล้วใช้ซอฟต์แวร์คอมพิวเตอร์วิสัยทัศน์จับตำแหน่งของใบหน้า แต่โปรแกรมยังมีปัญหาอยู่เพราะมันไม่จับหน้าเธอ จนกระทั่งเธอสวมหน้ากากสีขาว โปรแกรมก็จับใบหน้าได้ทันที เธอจึงพยายามหาต้นเหตุว่ามีสาเหตุมาจากอะไร เครื่องจักรจะทำหน้าที่ตรวจสอบสิ่งนั้นเมื่อนำชุดตัวอย่างให้มันวิเคราะห์บ่อยๆ เพื่อให้มันเรียนรู้ เช่น ถ้าอยากให้เครื่องจักรเห็นหน้าคนก็ต้องแสดงภาพหน้าคนและไม่มีหน้าคนใส่เข้าไปเยอะๆ เมื่อเธอได้วิเคราะห์ชุดข้อมูลก็พบว่าชุดข้อมูลจำนวนมากส่วนใหญ่จะเป็นภาพผู้ชายและส่วนใหญ่จะเป็นคนผิสีอ่อน ระบบจึงไม่คุ้นเคยหน้าแบบเธอที่เป็นผู้หญิงผิวสี เธอจึงเริ่มศึกษาเรื่องปัญหาความอคติที่แทรกซึมเข้าไปในเทคโนโลยี ทฤษฎีดังกล่าวถูกเสริมด้วย เมรีดิธ เบราส์ซาร์ด  ผู้เขียนหนังสือ “ปัญญาอ่อนประดิษฐ์” เธอเล่าว่าเอไอเริ่มต้นขึ้นตั้งแต่ปี 1956 ที่คณะคณิตศาสตร์ มหาวิทยาลัยดาร์ตมัธ ไอเดียในการสร้างนี้เกิดขึ้นเพื่อให้คอมพิวเตอร์ชนะหมากรุกมนุษย์ เธอบอกว่าคนที่พัฒนาเอไอมาแต่ละยุคนั้นล้วนใส่อคติของตัวเองลงไปในเทคโนโลยี และที่สำคัญคนเหล่าต่างเป็นผู้ชายผิวขาว 

Coded Bias

หลังจากซอฟต์แวร์ไม่สามารถจับใบหน้าของจอยได้ เธอจึงตัดสินใจทดลองกับซอฟต์แวร์อื่นๆ เช่น ไอบีเอ็ม ไมโครซอฟต์ เฟซบุ๊ค หรือ กูเกิล ผลที่ได้คือซอฟต์แวร์จับภาพใบหน้าผู้ชายได้ดีกว่าใบหน้าผู้หญิง และจับภาพหน้าคนผิวสีอ่อนได้ดีกว่าคนผิวสีเข้ม คำถามของเธอจึงได้เปลี่ยนจาก จะทำให้กระจกมุ่งหวังทำงานได้ไหม เป็น อะไรคือความหมายของการอยู่ในสังคมที่มีปัญญาประดิษฐ์มีบทบาทในการควบคุมเสรีภาพของเรามากขึ้น และ จะเป็นยังไงถ้าหากเอไอเลือกปฏิบัติ แคธี โอนีล นักเขียนหนังสือชื่อ “บิ๊กดาต้ามหาประลัย” ได้ตั้งคำถามที่ใหญ่กว่านั้น เธอเชื่อว่าการที่ตั้งใจทำให้เอไอมีอคติและเลือกปฏิบัติเพราะกำลังถูกใช้เป็นเกราะบังหน้าให้กับการทุจริต แนวคิดของเธอเกี่ยวกับอัลกอริทึมคือ การรวบรวมข้อมูลในอดีตเพื่อทำนายอนาคต แต่ก่อนที่จะมีอัลกอริทึม โลกเต็มไปด้วยมนุษย์ที่มีอคติ เหยียดผิว เชื้อชาติ เพศ คนพิการ และอื่นๆ แต่เมื่อมีอัลหอริทึมเกิดขึ้นมา ทุกคนก็ต่างเชื่อมันในระบบเครื่องจักร เธอจึงเสนอว่า เราควรจะตรวจสอบอยู่บ่อยๆ ว่าระบบคอมพิวเตอร์นั้นมีการแฝงอคติเข้าไปในนั้นหรือไม่ ที่ลอนดอน มีการติดกล้องตามถนนเพื่อวิเคราะห์ของผู้คนที่เดินผ่านไปมาว่าพวกเขาใบหน้าตรงกับอาชญากรที่เคยมีคดีหรือไม่ ซึ่งเอไอได้วิเคราะห์ผิดพลาดอยู่บ่อยครั้ง เพราะเมื่อตรวจจับหน้าคนบริสุทธ์แต่กลับวิเคราะห์ว่าพวกเขาเป็นอาชญากร เพียงเพราะหน้าตาของเขาคล้ายกับอาชญากรที่อัลกอริทึมได้รวบรวมไว้ สิ่งนี้ตอกย้ำได้ชัดเจนเลยว่า เอไอนั้นเต็มไปด้วยอคติ ซึ่งมันอาจจะส่งผลอันตรายในอนาคตถ้าหากรัฐให้อำนาจเอไอในการตัดสินคดีหรือตรวจสอบผู้ต้องหา 

สิ่งที่ หนังสารคดี เรื่องนี้นำเสนอคือความอันตรายของเอไอ ที่แม้จะไม่ได้มาในรูปแบบเหมือนหนัง The Terminator ที่หุ่นยนต์สังหารได้แฮ็กรหัสขีปนาวุธเพื่อกำจัดมนุษยชาติให้สิ้นซาก แต่ความอันตรายดังกล่าวนั้นคือการที่รัฐไว้ใจให้เอไอมีอำนาจในการตรวจสอบความผิดของผู้คน แต่รัฐไม่เคยตรวจสอบอย่างจริงจังเลยว่าแท้จริงแล้วพวกมันอาจจะมีอคติหรือเลือกปฏิบัติเหมือนกับคนหรือมากกว่าก็ได้ หนังค่อยๆ ไต่ระดับความอันตรายจากศูนย์ไปถึงร้อย ซึ่งส่งผลให้คนดูตื่นเต้นและหวาดระแวงเป็นอย่างมาก