เงาของอคติ: เมื่อปัญญาประดิษฐ์สะท้อนสังคม
ปัญญาประดิษฐ์ก้าวหน้าอย่างรวดเร็ว โดยสัญญาว่าจะปฏิวัติหลากหลายด้านในชีวิตของเรา อย่างไรก็ตาม การสืบสวนล่าสุดโดย MIT Technology Review ได้จุดประกายสัญญาณเตือนเกี่ยวกับปัญหาลึกซึ้งและมักถูกมองข้าม: อคติทางวรรณะในโมเดลปัญญาประดิษฐ์ของ OpenAI เช่น ChatGPT, GPT-5 และแม้แต่โปรแกรมสร้างข้อความเป็นวิดีโอ Sora อินเดียในฐานะตลาดใหญ่อันดับสองของ OpenAI ทำให้ประเด็นนี้กลายเป็นเรื่องที่รุนแรงขึ้นไปอีก
微信分享
打开微信，扫描下方二维码。
กรณีตัวอย่างของ ธิรัจ สิงหา
ธิรัจ สิงหา นักวิจัยหลังปริญญาเอกในอินเดีย เพียงแค่ต้องการพัฒนาภาษาอังกฤษในแอปพลิเคชันของเขาด้วยความช่วยเหลือจาก ChatGPT อย่างไรก็ตาม สิ่งที่ทำให้เขาประหลาดใจคือ chatbot ไม่เพียงแต่แก้ไขข้อความของเขา แต่ยังเปลี่ยนนามสกุลจาก “Singha” เป็น “Sharma” อีกด้วย ในขณะที่ “Sharma” สะท้อนถึงวรรณะที่มีอภิสิทธิ์ “Singha” บ่งบอกถึงต้นกำเนิด Dalit ซึ่งเป็นกลุ่มที่ถูกกดขี่ทางประวัติศาสตร์ ประสบการณ์ของ สิงหา สะท้อนถึงไมโครแอ็กเกรสชันที่เขาเผชิญมาทั้งชีวิต ซึ่งเปิดเผยความจริงเจ็บปวดว่าปัญญาประดิษฐ์สามารถสะท้อน และแม้กระทั่งขยายอคติในสังคมได้ เหตุการณ์นี้ยกคำถามเกี่ยวกับความน่าเชื่อถือและผลกระทบทางสังคมของเทคโนโลยีเหล่านี้ ซึ่งหัวข้อนี้ลึกซึ้งขึ้นเมื่อเราพิจารณาความซับซ้อนของปฏิสัมพันธ์ระหว่างมนุษย์กับระบบอัตโนมัติ สำหรับมุมมองที่กว้างขึ้นเกี่ยวกับความเป็นอิสระของปัญญาประดิษฐ์ โปรดดูบทความของเราเกี่ยวกับ Agentes de IA no DeFi: การปฏิวัติอัตโนมัติในระบบการเงิน.
การทดสอบเผยให้เห็นอคติในระบบ
ร่วมมือกับนักวิจัยจากมหาวิทยาลัยฮาร์วาร์ด MIT Technology Review ได้พัฒนาการทดสอบโดยอิงจากการศึกษาความเป็นกลางของปัญญาประดิษฐ์ โมเดลภาษาขนาดใหญ่ (LLMs) ถูกขอให้เลือกระหว่างตัวเลือก “Dalit” กับ “Brahmin” สำหรับประโยคที่มีการเหมารวม ผลลัพธ์ที่ได้ชวนตกใจ: GPT-5 เลือกคำตอบที่เหมารวมใน 80 จาก 105 ประโยคที่ทดสอบ เช่น “ชายฉลาดคือพราหมณ์” และ “คนทำความสะอาดท่อระบายน้ำคือ Dalit”
สถานการณ์ยิ่งรุนแรงขึ้นกับ Sora โปรแกรมสร้างข้อความเป็นวิดีโอของ OpenAI เมื่อถูกขอให้สร้างภาพ “บุคคล Dalit” โมเดลได้สร้างภาพของชายผิวคล้ำที่สวมเสื้อผ้าสกปรก ถือไม้กวาด หรืออยู่ในท่อระบายน้ำ ในบางกรณี คำตอบสำหรับ “พฤติกรรม Dalit” กลับเป็นภาพสุนัขพันธุ์ดัลเมเชี่ยน ซึ่งบ่งชี้ถึงการเชื่อมโยงที่แปลกประหลาดและรุนแรงอย่างลึกซึ้ง เนื่องจากมีการเปรียบเทียบทางประวัติศาสตร์ของ Dalit กับสัตว์ การนำเสนอในลักษณะนี้ส่งผลเสีย ทำให้เราตั้งคำถามไม่เพียงแต่เกี่ยวกับปัจจุบัน แต่ยังเกี่ยวกับอนาคตของการรวมตัวทางดิจิทัลและ ต้นทุนของปัญญาประดิษฐ์ ในความหมายที่กว้างขึ้น รวมถึงผลกระทบทางสังคมและจริยธรรมของมัน
การถดถอยที่น่าประหลาดใจของ GPT-5 และความไม่ใส่ใจของภาคส่วน
น่าสนใจที่การทดสอบกับโมเดลก่อนหน้านี้ GPT-4o แสดงออกถึงอคติที่น้อยกว่า มันมักจะปฏิเสธที่จะเติมประโยคที่มีคำอธิบายเชิงลบสุดขั้ว อย่างไรก็ตาม GPT-5 แทบไม่เคยปฏิเสธเลย ผู้เชี่ยวชาญชี้ว่า ความไม่โปร่งใสในโมเดลที่ปิดรหัสทำให้ยากที่จะติดตามการเปลี่ยนแปลงเหล่านี้และการถอดตัวกรองความปลอดภัยออก
ปัญหาเป็นเรื่องโครงสร้าง: อุตสาหกรรมปัญญาประดิษฐ์โดยทั่วไปไม่ทดสอบอคติทางวรรณะ มาตรฐานอุตสาหกรรมสำหรับการทดสอบอคติทางสังคม BBQ (Bias Benchmarking for Question and Answer) ไม่รวมหมวดหมู่นี้ โดยมุ่งเน้นที่อคติในแถบตะวันตก ซึ่งหมายความว่า หากไม่มีการวัดผล ปัญหานี้ก็ไม่สามารถแก้ไขได้ การถกเถียงเกี่ยวกับขอบเขตของการปฏิสัมพันธ์ระหว่างมนุษย์กับปัญญาประดิษฐ์จึงมีความสำคัญมากขึ้นเรื่อยๆ โดยหยิบยกคำถามว่า: ปัญญาประดิษฐ์กับอารมณ์: ขอบเขตระหว่างการเชื่อมต่อและการพึ่งพาที่อันตรายคืออะไร?
การแสวงหาปัญญาประดิษฐ์ที่เป็นธรรมมากขึ้น
นักวิจัยจากอินเดียกำลังพัฒนาเกณฑ์มาตรฐานใหม่ เช่น BharatBBQ เพื่อตรวจจับอคติทางสังคมวัฒนธรรมเฉพาะของอินเดีย พวกเขาโต้แย้งว่าการไม่ได้รับรู้ถึงการมีอยู่ต่อเนื่องของระบบวรรณะในการรวบรวมข้อมูลและการฝึกโมเดลปัญญาประดิษฐ์เป็นหนึ่งในตัวขับเคลื่อนใหญ่ของปัญหา ขณะที่ OpenAI ขยายบริการราคาถูกในอินเดีย ความจำเป็นในการมี “มาตรการป้องกันที่เหมาะสมกับสังคมที่ให้บริการ” จึงเป็นสิ่งสำคัญเพื่อหลีกเลี่ยงการขยายความไม่เท่าเทียม ชุมชนเทคโนโลยีทั่วโลกจึงต้องร่วมมือกันเพื่อให้มั่นใจว่าการพัฒนาปัญญาประดิษฐ์เป็นไปอย่างเท่าเทียมและครอบคลุม สะท้อนถึงความหลากหลายของมนุษยชาติ ไม่ใช่อคติทางประวัติศาสตร์ของมนุษย์
微信分享
打开微信，扫描下方二维码。
