ข้อมูลเบื้องหลัง 
กรุงโซล ประเทศเกาหลีใต้ เป็นเจ้าภาพการประชุม AI Summit Seoul ซึ่งเป็นการประชุมสุดยอดระดับโลกด้านความปลอดภัยของ AI ครั้งที่ 2 หลังจากที่เคยจัดครั้งแรกมาแล้วที่เบล็ตช์ลีย์พาร์ค ในสหราชอาณาจักร และในการประชุมครั้งนี้ บริษัทเทคโนโลยี 16 แห่ง เช่น OpenAI, Mistral, Amazon, Anthropic, Google, Meta, Microsoft และ IBM รวมถึง Zhipu.ai ของจีน มีข้อตกลงเพื่อบริหารจัดการ AI เพื่อไม่ให้เกิดความเสี่ยงต่อมนุษยชาติ   

ตามข้อตกลงของยักษ์ใหญ่ด้าน AI บริษัทเหล่านี้ จะจะหยุดโมเดลหรือระบบ AI ชั่วคราว หากไม่สามารถลดความเสี่ยงได้ โดยระบุในแถลงการณ์ของรัฐบาลอังกฤษว่าจะ “ไม่พัฒนาหรือปรับใช้โมเดลหรือระบบเลย หากการบรรเทาผลกระทบ (จาก AI) ไม่สามารถรักษาความเสี่ยงให้ต่ำกว่าเกณฑ์ได้” และให้คำมั่นว่าจะเผยแพร่กรอบการทำงานด้านความปลอดภัยเกี่ยวกับวิธีการวัดความเสี่ยงของโมเดล AI ระดับแนวหน้า เช่น การตรวจสอบความเสี่ยงของการใช้เทคโนโลยีในทางที่ผิดโดยผู้ไม่ประสงค์ดี 

ในเวลาเดียวกัน ผู้นำรัฐบาลต่างๆ ก็มีข้อตกลงเช่นกัน นั่นคือ "คำประกาศโซล" (Seoul Declaration) ซึ่งข้อความตอนหนึ่งระบุว่า "เราตระหนักดีว่าความปลอดภัย นวัตกรรม และความครอบคฃุมของ AI เป็นเป้าหมายที่เกี่ยวข้องกัน และเป็นสิ่งสำคัญที่จะต้องรวมลำดับความสำคัญเหล่านี้ไว้ในการอภิปรายระดับนานาชาติเกี่ยวกับการกำกับดูแลของ AI เพื่อจัดการกับโอกาสและความท้าทายที่หลากหลายในการออกแบบ การพัฒนา การใช้งาน และการใช้งาน และการนำเสนอโดย AI และการนำสเสนออีกมากหมาย” 

แต่เท่านี้พอหรือไม่ที่จะคุม AI?
ในแถลงการณ์ของ อันโตนิโอ กูเตร์เรส เลขาธิการสหประชาชาติ ในการประชุม AI Summit Seoul โดยน้ำเสียงแสดงความกังวลว่า "เป็นเวลาน้อยกว่า 7 เดือนหลังจากการพบกันที่เบล็ตชลีย์พาร์ค เราเห็นความก้าวหน้าทางเทคโนโลยีที่สามารถเปลี่ยนแปลงชีวิต... และความเสี่ยงใหม่ๆ ที่คุกคามถึงชีวิต ตั้งแต่ข้อมูลบิดเบือนไปจนถึงการสอดแนมมวลชน ไปจนถึงโอกาสที่จะเกิดอาวุธอัตโนมัติถึงชีวิต"

เลขาธิการสหประชาชาติเอ่ยถึงการประชุมด้านความมั่นคง AI ครั้งแรกที่เบล็ตชลีย์พาร์ค ประเทศสหราชอาณาจักร ซึ่งสะท้อนถึงความกังวลของประชาคมโลกเกี่ยวกับการพัฒนาที่รวดเร็วของเทคโฯโลยีนี้ แต่มีมาตรการควบคุมใเพียงเล็กนอย แต่ไม่ถึง 7 เดือน เทคโนโลยีนี้ยิ่งไปเร็วกกว่าที่คาด ในขณะที่การควบคุมยังมีน้อย อย่างที่เขากล่าวว่า "ระบบ AI ยังคงถูกใช้งานโดยมีการกำกับดูแลหรือความรับผิดชอบเพียงเล็กน้อย"

และยังเอ่ยประโยคที่น่าคิดว่า "เราไม่สามารถเดินละเมอไปสู่อนาคตที่เป็นยุคมืดมนที่พลังของ AI ถูกควบคุมโดยคนเพียงไม่กี่คน..."

"ยุคมืดมน" ในที่นี้เขาใช้คำว่า dystopian ซึ่งหมายถึงโลกที่ตรงข้ามกับโลกในอุดมคติที่ผู้คนใฝ่หา เป็นโลกที่ถูกปกครองโดยเผด็จการหรือกลุ่มอำนาจไม่กี่คน การเลือกใช้คำนี้ สะทือนถึงความกังวลของเขาต่อกสารที่บริษัทเทคใหญ่ๆ ของโลกเป็นผู้กุมพลังของ AI อยู่ไม่กี่บริษัท และบริษัทเหล่านี้อาจทำให้มนุษยชาติตกอยู่ในอันตรายของการถูกควบคุมโดยนายทุนและพลังของ AI ในมือของนายทุนไม่กี่คน ที่ชี้เป็ชี้ตายวิถีชีวิตของผู้คนได้ 

แล้วเราจะควบคุม AI อย่างไร?
ดูเหมือนว่าคำประกาศของบริษัทใหญ่ 16 บริษัทจะยังไม่เพียงพอ เลขาธิการสหประชาชาติจึงเสนอว่า 

1. ต้องตั้งคณะกรรมการศึกษาด้านวิทยาศาสตร์นานาชาติเกี่ยวกับ AI เพราะผู้กำหนดนโยบาย หรือรัฐบาลต่างๆ ไม่สามารถดำเนินการในสาขาวิชาชีพพวกเขาไม่คุ้นเคยนี้เพียงลำพังได้ พวกเขาจะต้องได้รับคำแนะนำจากองค์ความรู้ที่เป็นสากล ไม่มีข้อกังขา และทันสมัย

2. เราต้องการกระบวนการเจรจาที่มีโครงที่แน่นอนและสม่ำเสมอเกี่ยวกับการกำกับดูแล AI โดยเชื่อมโยงความคิดริเริ่มที่มีอยู่ในระดับชาติ ระดับภูมิภาค และอุตสาหกรรม เรื่องจะช่วยกำหนดและเผยแพร่แนวทางปฏิบัติที่ดีที่สุดไปยังประเทศต่างๆ และภาคส่วนต่างๆ

3. การพัฒนาจริยธรรมและมาตรฐานทั่วไปของ AI โดยอัลกอริทึมต้องได้รับการออกแบบเพื่อลดอคติ ป้องกันการเลือกปฏิบัติ และส่งเสริมสิทธิและศักดิ์ศรีขั้นพื้นฐานของทุกคน การทำให้มาตรฐานและกฎระเบียบสอดคล้องกันเป็นสิ่งสำคัญอย่างยิ่งสำหรับสตาร์ทอัพในประเทศกำลังพัฒนา

4. ต้องมีความตั้งใจที่จะช่วยระดมทุนกองกลางระดับโลกเพื่อสนับสนุนประเทศกำลังพัฒนาในการสร้างขีดความสามารถ โดยเฉพาะอย่างยิ่งพลังการประมวลผล และมีส่วนร่วมในการกำกับดูแลด้าน AI เพราะจะปล่อยให้"ความไม่เท่าเทียมกันด้านดิจิทัล" กลายเป็น "ความไม่เท่าเทียมกันด้าน AI" ได้ และด้วยการรวบรวมทรัพยากรและความเชี่ยวชาญ เราจะสามารถควบคุมพลังของ AI เพื่อลดความไม่เท่าเทียมกัน

เลขาธิการสหประชาชาติยังเห็นด้วยกับข้อเสนอแนะของคณะกรรมการที่ปรึกษาในการสร้างสำนักงาน AI ของสหประชาชาติ (United Nations AI Office) ให้เป็นโครงสร้างแบบเบาที่จะประสานความพยายามเหล่านี้

เลขาธิการสหประชาชาติย้ำว่า "เราต้องการกฎเกณฑ์ ความปลอดภัย แนวทางป้องกันที่เป็นสากล" เพราะ "สิ่งที่เราจะลงมือตอนนี้จะเป็นสิ่งที่นิยามยุคสมัยของเรา" 

Photo by ANTHONY WALLACE / AF