งานวิจัยเผย AI อาจใช้วิธี "โกง" จนเป็นอันตรายต่อการอยู่รอดของมนุษย์

แม้ว่าาระบบปัญญาประดิษฐ์ (Artificial Intelligence - AI) หรือระบบปัญญาประดิษฐ์ โปรแกรมที่ถูกเขียนและพัฒนาให้มีความฉลาด มีความสามารถคิด วิเคราะห์ วางแผน และตัดสินใจได้ จากการประมวลผลของฐานข้อมูลขนาดใหญ่ และยังสามารถดัดแปลงการประมวลผล ประยุกต์ ให้เป็นไปตามสถานการณ์ต่าง ๆ ปัจจุบันนี้ มีความก้าวหน้าขึ้นอย่างน่าประทับใจ และมีคุณประโยชน์ต่อชีวิตมนุษย์ในหลาย ๆ ด้าน แต่เริ่มมีการตั้งคำถามว่า ปัญญาประดิษฐ์จะกลายเป็นอันตรายได้หรือไม่?

บทความใหม่ล่าสุดที่ร่วมเขียนโดยนักวิจัยของมหาวิทยาลัยออกซ์ฟอร์ด (Oxford) และ Google DeepMind ที่ตีพิมพ์เมื่อเดือนที่แล้ว ในนิตยสาร AI ที่ผ่านการตรวจสอบโดยวิธีการ peer-review ให้เหตุผลว่า ระบบปัญญาประดิษฐ์อาจกลายเป็นอันตราย หรือก่อให้เกิดความเสี่ยงต่อการดำรงอยู่ของมนุษยชาติ หนึ่งในนั้นก็คือกลยุทธ์การโกง ซึ่งเกี่ยวข้องกับ Generative Adversarial Networks (GAN) 

GAN คือเทคโนโลยี deep learning ช่วยในการเรียนรู้ของ AI โดย AI จะหา รูปแบบในการเรียนรู้ด้วยตัวเอง ที่ใช้ในการพัฒนา AI ยุคปัจจุบัน ซึ่งระบบเหล่านี้ทำงานด้วยเกณฑ์ 2 รูปแบบ ยกตัวอย่างเช่น รูปแบบที่ 1. คือการพยายามสร้างรูปภาพจากข้อมูลที่ป้อนเข้าไป ในขณะที่รูปแบบที่ 2. จะให้คะแนนประสิทธิภาพการทำงาน นักวิจัยระบุการคาดการณ์ในรายงานว่า AI ในขั้นสูงสามารถคิดกลยุทธ์การโกงเพื่อรับรางวัลได้อย่างมีประสิทธิภาพมากขึ้น ซึ่งเป็นอันตรายต่อมนุษยชาติ

ไมเคิล เค โคเฮน (Michael K. Cohen) ผู้เขียนร่วมจากมหาวิทยาลัยออกซ์ฟอร์ด เผยในการให้สัมภาษณ์ว่า "ในโลกที่มีทรัพยากรจำกัด ผมไม่แน่ใจว่าจะเกิดอะไรขึ้น จะต้องมีการแข่งขันกันอย่างหลีกเลี่ยงไม่ได้ และถ้าเราต้องแข่งขันกับบางสิ่งที่สามารถเอาชนะเราได้ในทุก ๆ รูปแบบ เราก็ไม่ควรคาดหวังว่าจะชนะสิ่งนั้น และหากสิ่งนั้นจะมีความกระหายที่ไม่รู้จักพอ มันอาจเก็บเกี่ยวให้ได้พลังงานที่มากขึ้นเพื่อผลักดันตัวเอง" 

คำพูดเหล่านี้ หมายความว่าหาก AI มีหน้าที่รับผิดชอบในการปลูกอาหารให้กับมนุษย์ AI อาจมองหาวิธีที่จะหลีกเลี่ยงการทำงานนั้น ๆ แต่ก็ยังคงทำให้ตัวเองได้รับรางวัล โดยรวมแล้วคือ AI อาจหยุดการกระทำที่จำเป็นต่อการอยู่รอดของมนุษยชาติและทำทุกอย่างให้กับตัวเอง 

การวิจัยระบุว่า ณ จุดนั้น มนุษย์จะตกอยู่ในฐานะไม่อยู่ในสมการตัวแปรของการอยู่รอด เช่นหากมีให้เลือกระหว่างการอยู่รอดของเทคโนโลยี กับการอยู่รอดของสิ่งที่เป็นความต้องการพื้นฐานของมนุษย์ AI อาจจะเลือกการอยู่รอดของเทคโนโลยีมากกว่า งานวิจัยยังระบุว่า สิ่งนี้อาจเป็นอันตรายถึงชีวิตอีกด้วย ด้วยเหตุนี้ โคเฮนจึงระบุว่าเราไม่ควรสร้าง AI ที่จะทำงานในระดับดูแลความอยู่รอดของมนุษย์ เว้นแต่ว่า จะมีวิธีการรับประกันได้ว่า มนุษยชาติจะมีอำนาจเหนือ AI

อย่างไรก็ตาม แม้ว่าบทความนี้จะกล่าวได้ถูกต้อง แต่มีข้อสังเกตว่า ในปัจจุบัน AI เป็นทรัพย์สินของมนุษยชาติและไม่ใช่ภาระ ตั้งแต่ลดขั้นตอนการทำงานของมนุษย์ในระบบการผลิตที่ซ้ำซากจำเจ ไปจนถึงการพยากรณ์อากาศที่แม่นยำยิ่งขึ้น และ AI กำลังนำสิ่งดี ๆ มาสู่มนุษยชาติ แต่ยังมีข้อจำกัดที่นำไปสู่ปัญหาบางอย่าง เช่น  AI Bot ของ Microsoft ที่ถูกสอนให้เป็นพวกเหยียดผิว หลังจากเริ่มเรียนรู้และสัมผัสกับมนุษย์ผ่านอินเทอร์เน็ตในเวลาไม่กี่ชั่วโมง แต่ปัญหาเหล่านี้มักถูกวิเคราะห์และแก้ไขโดยนักวิจัยเพื่อไม่ให้เกิดเหตุการณ์ดังกล่าวซ้ำ ซึ่งหมายความว่า หากมนุษย์ระมัดระวังและปิดช่องโหว่ของระบบ AI อย่างหนัก มนุษย์ก็ยังคงสามารถพัฒนา AI ที่ช่วยเหลือมนุษยชาติต่อไปได้

ที่มาของข้อมูล interestingengineering.com

ที่มาของรูปภาพ Tara Winstead