ผู้บริหารระดับสูงในวงการเทคโนโลยีเตือน ใช้เอไออย่างไม่ระมัดระวังคือภัยคุกคามที่แท้จริง ไม่ใช่ตัวเอไอเอง

คำเตือน: บทความนี้มีถ้อยคำพูดที่รุนแรง

เมเรดิธ วิทเทเกอร์ ไม่ปลื้มนักกับข่าวร้ายเรื่องปัญญาประดิษฐ์ หรือ เอไอ (AI) ที่กลายเป็นพาดหัวข่าวใหญ่โต โดยเธอคิดว่าคำเตือนเรื่องเอไอจะหันมาทำร้ายมนุษยชาติเป็นความกลัวที่ "ไม่ได้อิงอยู่กับหลักการทางวิทยาศาสตร์"

"ความเสี่ยงมีอยู่จริงอย่างยิ่ง" หัวหน้าของมูลนิธิ ซิกนัล (Signal) ซึ่งเป็นผู้ดูแลแอปพลิเคชันส่งข้อความเข้ารหัสชื่อเดียวกันกล่าว "แต่มันไม่ใช่เรื่องราวเหนือธรรมชาติที่พวกเด็กหนุ่มตาโตพูดถึงกัน"

แต่เธอกลับเชื่อว่าอันตรายที่ร้ายแรงกว่านั้นคือการใช้เทคโนโลยีอย่างไม่ระมัดระวัง

เธออ้างถึงเหตุการณ์ที่ซีเอ็นเอ็น (CNN) รายงานว่าแชทบอทที่หน่วยข่าวกรองสหรัฐฯ ใช้ได้สร้างข้อมูลเกี่ยวกับเรือจีนที่บรรทุกวัสดุนิวเคลียร์ขึ้นมา ซึ่งมีรายงานว่านำไปสู่การที่สหรัฐฯ เตรียมการตอบโต้ทางทหาร

“เราเกือบจะทำสงครามกับจีน” เธอบอกกับ บีบีซี โกลบอล วูเมน

"ระบบที่สร้างข้อมูลข่าวกรองที่ผิดพลาดและเกือบทำให้เราเข้าสู่สงครามกับจีน ไม่ควรถูกมองว่าเป็นระบบอัจฉริยะขั้นสูงไม่ว่าด้วยมาตรฐานใดก็ตาม"

แอปฯ ซิกนัล มีผู้ใช้งานประมาณ 40-70 ล้านคน ซึ่งนับว่าน้อยมากเมื่อเทียบกับ วอตส์แอป (WhatsApp) ที่มีผู้ใช้งานหลายพันล้านคน

แต่บริการนี้ขึ้นชื่อเรื่องนโยบายที่เข้มงวดในการปกป้องความเป็นส่วนตัวของผู้ใช้ โดยจะซ่อนข้อมูลผู้ส่งข้อความจากเซิร์ฟเวอร์ของตนเอง จำกัดข้อมูลที่ผู้สังเกตการณ์ภายนอกหรือแฮกเกอร์สามารถเข้าถึงได้

โครงการประท้วงเมเวน (Maven)

นิตยสารไทม์ยกให้วิทเทเกอร์เป็นหนึ่งในบุคคลที่มีอิทธิพลมากที่สุดในวงการเอไอ เธอเดินทางไปห้องประชุมต่าง ๆ มากมายทั่วโลกที่มีการหารือเกี่ยวกับอนาคตของเอไอ ตั้งแต่ห้องประชุมในซิลิคอนวัลเลย์ไปจนถึงถนนดาวนิง เมืองดาวอส และนครวาติกัน

เธอเรียนสาขาวรรณคดีที่มหาวิทยาลัย และเข้าทำงานที่กูเกิล (Google) ในปี 2006 ในตำแหน่งพนักงานชั่วคราวระดับเริ่มต้น โดยที่ไม่มีปริญญาด้านวิทยาการคอมพิวเตอร์มาก่อน

ในช่วงปลายปี 2017 เธอเริ่มเป็นที่รู้จัก หลังเพื่อนร่วมงานเล่าให้เธอฟังเกี่ยวกับโครงการเมเวน (Project Maven) ซึ่งเป็นสัญญาลับระหว่างกูเกิลและกระทรวงกลาโหมสหรัฐฯ เพื่อสร้างเอไอ สำหรับการกำหนดเป้าหมายโดรน

เธอเข้าใจความหมายของ "การย่นระยะเวลาในวงจรการสังหาร" ว่า คือการลดระยะเวลาระหว่างที่เครื่องจักรระบุเป้าหมายและเวลาที่ใครบางคนตัดสินใจยิง หรือลดขั้นตอนการไตร่ตรองลง ดังนั้นเธอและเพื่อนร่วมงานอีกหลายพันคนจึงออกมาต่อต้านแนวคิดนี้

"สิ่งนี้จะเป็นการฟอกข้อมูลข่าวกรองและข้อมูลที่ด้อยคุณภาพให้ดูน่าเชื่อถือ" เธอจำได้ว่าเคยโต้แย้งอย่างเปิดเผยเช่นนั้น

ในปีต่อมา วิทเทเกอร์ได้ช่วยจัดการประท้วงหยุดงาน ซึ่งมีพนักงานประมาณ 20,000 คนออกมาประท้วงต่อการจัดการปัญหาหลายอย่างของบริษัท รวมถึงสิ่งที่พวกเขารู้สึกว่าเป็นการเร่งรีบในการนำเทคโนโลยีใหม่มาใช้ กูเกิลจึงยกเลิกสัญญา และ พาลันเทียร์ (Palantir) ก็รับช่วงต่อ

เธอเชื่อมโยงกรณีโครงการเมเวน กับการโจมตีด้วยขีปนาวุธของสหรัฐฯ ต่อโรงเรียนแห่งหนึ่งในอิหร่านเมื่อต้นปีนี้ ซึ่งเธอกล่าวว่าการโจมตีดังกล่าวอาศัยระบบและข้อมูลข่าวกรองที่ล้าสมัยซึ่งระบุว่าโรงเรียนดังกล่าวเป็นเป้าหมายทางทหาร

"นี่คือสิ่งที่เราเคยเตือนไว้ตั้งแต่ปี 2017" เธอกล่าว

แต่ทางพาลันเทียร์ ได้แจ้งกับบีบีซี โกลบอล วูเมน ว่า "ไม่มีหลักฐานใดที่บ่งชี้ว่าซอฟต์แวร์ของพาลันเทียร์ เป็นต้นเหตุของโศกนาฏกรรมอันน่าสยดสยองนี้"

แถลงการณ์ระบุเพิ่มเติมว่า "พาลันเทียร์ไม่รับผิดชอบต่อข้อมูลพื้นฐานหรือการระบุข้อมูลบกพร่องด้านข่าวกรอง" และเมื่อต้นปีนี้ ลูอิส มอสลีย์ รองประธานกรรมการประจำสหราชอาณาจักรและยุโรปของพาลันเทียร์ กล่าวกับบีบีซีว่า "มีมนุษย์เข้ามาเกี่ยวข้องเสมอ ดังนั้นจึงมีมนุษย์ที่เป็นผู้ตัดสินใจขั้นสุดท้าย"

กองทัพสหรัฐฯ ยังไม่ได้เปิดเผยผลการสอบสวนเหตุการณ์โจมตีโรงเรียนประถมในเมืองมินาบ แต่รัฐมนตรีว่าการกระทรวงกลาโหม พีธ เฮกเซธ กล่าวว่า "จะไม่มีวันโจมตีเป้าหมายพลเรือน"

"ฉันเป็นคนมีจุดยืนที่มั่นคงนะ"

รัฐบาลต่าง ๆ รวมถึงรัฐบาลสหราชอาณาจักร ต่างเรียกร้องให้มีการเข้าถึงบทสนทนาบนแอปพลิเคชันส่งข้อความมากขึ้น โดยอ้างว่าทำไปเพื่อเป็นการปกป้องสตรีและเด็ก

ในงาน ลอนดอน เทค วีค 2026 (London Tech Week 2026) เซอร์ เคียร์ สตาร์เมอร์ นายกรัฐมนตรีสหราชอาณาจักรในขณะนั้น กล่าวว่า บริษัทเทคโนโลยีจะต้องตรวจจับและบล็อกภาพเปลือยบนอุปกรณ์ของเด็ก มิเช่นนั้นจะต้องเผชิญกับการบังคับใช้กฎหมาย

วิทเทเกอร์แย้งว่าเด็ก ๆ ก็ยังจะสามารถหลีกเลี่ยงมาตรการดังกล่าวได้อยู่ดี โดยเรียกแนวทางของรัฐบาลว่าเป็น "ระบอบการควบคุมการสื่อสารและข้อมูลแบบที่ไม่เคยเกิดขึ้นมาก่อน"

กระทรวงวิทยาศาสตร์ นวัตกรรม และเทคโนโลยี ของสหราชอาณาจักร กล่าวกับบีบีซีว่า กระทรวงฯ กำลังเตรียมร่างกฎหมายอยู่

แล้ว ซิกนัล จะถอนตัวออกจากประเทศใดก็ตาม รวมถึงสหราชอาณาจักร หากถูกบีบให้ต้องลดทอนความแข็งแกร่งของระบบเข้ารหัสข้อมูลหรือไม่

"ถอนสิคะ! พระเจ้าช่วย ฉันเป็นคนมีจุดยืนที่มั่นคงนะ" เธอกล่าว "จุดยืนนี้ไม่เปลี่ยนแปลงตามอารมณ์ และไม่ได้เปลี่ยนแปลงตามคำแนะนำของที่ปรึกษาด้วย"

เธอกล่าวว่า หากต้องตกอยู่ในสถานการณ์ที่ต้องเปิดเผยข้อมูลของผู้คนที่ "พึ่งพาเรา ซึ่งบางครั้งเป็นเรื่องความเป็นความตาย ให้เสี่ยงต่อการถูกสอดส่องที่อาจถูกนำไปใช้เป็นเครื่องมือเล่นงานพวกเขาได้" ทางบริษัท "ก็จะถอนตัวออกจากตลาดนั้น"

แอปนี้ถูกปิดกั้นทั้งหมดหรือบางส่วนในรัสเซีย จีน และอิหร่าน

รานี โกเวนเดอร์ หัวหน้าฝ่ายความปลอดภัยของเด็กทางออนไลน์ของสมาคมป้องกันการทารุณกรรมเด็กแห่งชาติ กล่าวกับบีบีซีว่า ทางสมาคมได้รับรายงานจากเด็ก ๆ ที่ถูกล่อลวงและถูกส่งไปยังแพลตฟอร์มที่มีการเข้ารหัสข้อมูลจากต้นทางถึงปลายทาง หรือ end-to-end ซึ่งพวกเขาถูกบังคับให้สร้างสื่อล่วงละเมิดทางเพศเด็ก

"บริษัทเทคโนโลยีต้องรับผิดชอบต่อการออกแบบที่ตนเลือกใช้ และพวกเขาจะเพิกเฉยต่อความเสี่ยงที่การตัดสินใจเหล่านั้นอาจสร้างขึ้นให้กับเด็กไม่ได้"

แต่ซิกนัล ก็ได้รับการสนับสนุนจากกลุ่มสตรีบางกลุ่ม โดยส่วนใหญ่มักเป็นกลุ่มสตรีจากประเทศในซีกโลกใต้ที่ใช้แอปฯ นี้ด้วยตนเอง

“ในยุคที่รัฐคอยสอดส่องและโจมตีทางไซเบอร์ แอปฯ ซิกนัล คือเครื่องมือในการเอาตัวรอด” เฮรา ฮุสเซน ผู้ก่อตั้งองค์กรการกุศลต่อต้านการล่วงละเมิดทางเพศ ชายน์ (Chayn) ซึ่งดำเนินงานทั่วเอเชียใต้ กล่าว

"ไม่ว่าจะเป็นแพลตฟอร์มใดก็ตาม ก็สามารถถูกใช้โดยผู้ไม่ประสงค์ดีได้เช่นกัน และเราก็ต้องยึดมั่นในความจริงข้อนี้ด้วย"

"เราจะจัดการกับห้องครัวอย่างไรดี ?"

ผู้สัมภาษณ์ได้ยกตัวอย่างกรณีจากแคนาดาให้วิทเทเกอร์ฟัง ซึ่งเป็นกรณีที่เจ้าหน้าที่ตำรวจแชร์ข้อความเหยียดเชื้อชาติและดูถูกผู้หญิงในกลุ่มบนแอปฯ ซิกนัล และข้อความเหล่านั้นรั่วไหลออกมาก็ต่อเมื่อหนึ่งในเจ้าหน้าที่ส่งต่อให้สื่อมวลชน

ทนายความของเจ้าหน้าที่คนหนึ่งกล่าวว่า ชายเหล่านั้นเชื่อว่า ซิกนัลมีความเป็นส่วนตัวและปลอดภัยไม่ต่างจากการพูดคุยกันภายในบ้านของตนเอง

"ถ้าพวกเขาคุยกันแบบนั้นในห้องครัว แล้วมีเพื่อนไปคาบข่าวไปบอกคนอื่น เราจะตั้งคำถามกันไหมว่า 'เราควรจัดการกับห้องครัวอย่างไรดี'"

"หลักการนี้ต้องใช้ได้กับทุกคน ไม่เช่นนั้นก็จะไม่ได้ผลกับใครเลย นี่คือหลักการของสิทธิขั้นพื้นฐาน มันใช้ได้แม้กระทั่งกับคนเลว"

เธอยกตัวอย่างหญิงชาวอเมริกันคนหนึ่งที่ถูกจำคุกหลังจากที่ เมตา (Meta) ส่งมอบข้อความที่แสดงให้เห็นว่าเธอช่วยลูกสาวเข้าถึงการทำแท้งในรัฐที่การทำแท้งเป็นสิ่งผิดกฎหมาย

เธอกล่าวว่า การสื่อสารส่วนตัวช่วยปกป้องผู้คนจากอันตรายหลายประเภท เช่น "คู่สมรสที่ใช้ความรุนแรง เจ้าหน้าที่บังคับใช้กฎหมายที่เกลียดชังผู้หญิงและเข้าถึงฐานข้อมูล หรือรัฐบาลเผด็จการที่ไม่คิดว่าผู้หญิงควรได้รับการศึกษา"

เมื่อถามว่าเธออยากจะพูดอะไรกับผู้หญิงที่อยากเข้าสู่วงการเทคโนโลยี แต่รู้สึกหวาดกลัวกับแง่มุมทางเพศของอาชีพนี้ เธอตอบกลับเป็นคำถามว่า "แล้วคุณชอบมันไหม" เธอกล่าว

"คุณรู้สึกตื่นเต้นเมื่อนั่งลงที่หน้าจอคอมพิวเตอร์หรือไม่ คุณสนุกกับการใช้งานและกำหนดรูปแบบระบบเอไอหรือไม่" จากนั้นเธอก็หยุดพูดครู่หนึ่งและกล่าวว่า "คุณรับมือกับสถานการณ์ที่น่าสนใจแต่ก็ชวนปวดหัว ซึ่งไม่ใช่ทุกคนที่จะใจเย็นหรือเป็นมิตรได้ไหวหรือเปล่า เพราะไม่มีอะไรอันตรายไปกว่าการแสดงความขลาดเขลาออกมาให้พวกอันธพาลเห็น"

ฉันถามเธอว่าสภาพแวดล้อมการทำงานแบบนี้เต็มไปด้วยพวกชอบรังแกคนอื่นหรือไม่

เพื่อนร่วมงานของเธอพูดแทรกขึ้นมาว่า "ฉันว่าตอนนี้บ่ายสองแล้วนะ" ซึ่งเป็นเวลาที่เราตกลงกันว่าจะจบการสัมภาษณ์

เมเรดิธยิ้มแล้วระบุว่า "ฉันอยากจะบอกว่าอย่าทำตัวเป็นพวกยอมคนไปทั่ว (simp) เลย" เธอใช้คำนี้เพื่อหมายถึงคนที่แสดงความยอมจำนนหรือเกรงอกเกรงใจผู้มีอำนาจมากจนเกินพอดี

"มันไม่ได้ช่วยอะไรคุณหรอก อย่าหัวเราะกับเรื่องตลกที่คุณไม่คิดว่ามันตลก"

รายงานเพิ่มเติมโดย เคที โรเบิร์ตส์