ใน AI เราไว้วางใจ: พลัง ภาพลวงตา
และการควบคุมอัลกอริทึมการทำนาย Helga Nowotny Polity (2021)
ในช่วงทศวรรษ 1980 แผ่นโลหะที่ Johnson Space Center ของ NASA ในเมืองฮิวสตัน รัฐเท็กซัส ได้ประกาศว่า “เราวางใจในพระเจ้า คนอื่นทั้งหมดต้องนำข้อมูลมาด้วย” หนังสือเล่มล่าสุดของ Helga Nowotny ในชื่อ In AI We Trust เป็นมากกว่าการเล่นวลีแรกในคำพูดนี้ที่มาจากนักสถิติ W. Edwards Deming ส่วนใหญ่จะยุ่งอยู่กับความคิดที่สอง
จะเกิดอะไรขึ้น Nowotny ถามเมื่อเราปรับใช้ปัญญาประดิษฐ์ (AI) โดยไม่สอบสวนประสิทธิภาพของมัน เพียงแค่เชื่อว่ามัน “ใช้งานได้” จะเกิดอะไรขึ้นเมื่อเราล้มเหลวในการใช้แนวทางที่ขับเคลื่อนด้วยข้อมูลกับสิ่งต่าง ๆ ที่ขับเคลื่อนด้วยข้อมูลเอง แล้วถ้า AI มีรูปร่างและอิทธิพลจากอคติของมนุษย์ล่ะ? ข้อมูลอาจไม่ถูกต้อง มีคุณภาพต่ำ หรือขาดหายไป และเทคโนโลยีนั้น Nowotny เตือนเราว่า “เชื่อมโยงกับอคติทั้งที่รู้ตัวหรือไม่รู้ตัว เพราะมันสะท้อนถึงความไม่เท่าเทียมที่มีอยู่และการปฏิบัติที่เลือกปฏิบัติในสังคม”
Nowotny สมาชิกผู้ก่อตั้งและอดีตประธาน European Research Council มีประวัติความคิดที่เฉียบขาดว่าสังคมควรจัดการกับนวัตกรรมอย่างไร ที่นี่ เธอเสนอการวิเคราะห์ที่น่าสนใจเกี่ยวกับความเสี่ยงและความท้าทายของระบบ AI ที่แผ่ซ่านไปทั่วชีวิตของเรา เธอได้ยกตัวอย่างมานุษยวิทยาดิจิทัล: “ค่านิยมและมุมมองของมนุษย์ควรเป็นจุดเริ่มต้น” สำหรับการออกแบบระบบที่ “อ้างว่าให้บริการมนุษยชาติ”
อย่าถามว่าปัญญาประดิษฐ์ดีหรือยุติธรรม
ให้ถามว่าปัญญาประดิษฐ์เปลี่ยนอำนาจอย่างไร
ความขัดแย้งคือสิ่งนี้ เทคโนโลยีที่ขับเคลื่อนด้วยข้อมูล ตั้งแต่การจดจำใบหน้าไปจนถึงเครื่องคำนวณสินเชื่อ ดึงดูดความต้องการความแน่นอน และความปรารถนาที่จะเข้าใจและคาดการณ์ ร่วมเป็นสักขีพยานในการใช้อัลกอริทึมในด้านการศึกษา บริการสาธารณะ และการตลาดอย่างรวดเร็ว ทว่าสิ่งเหล่านี้หล่อหลอมและมีอิทธิพลต่อเราในลักษณะที่สามารถลดสิทธิ์เสรี อำนาจ และการควบคุมของเรา ในการทำนายพฤติกรรมของเรา ระบบ AI สามารถเปลี่ยนแปลงได้ การจัดแสดง ก: เทคโนโลยีการโฆษณาที่รวบรวมข้อมูลเกี่ยวกับความชอบและความชอบของเรา มีเป้าหมายเพื่อคาดการณ์สิ่งที่เราต้องการซื้อ และในทางกลับกัน กำหนดทางเลือกของเราให้เหนือกว่าการบริโภค
แทนที่จะยกอนาคตให้กับสิ่งที่นักวิทยาศาสตร์ด้านข้อมูล Cathy O’Neil ขนานนามว่า “อาวุธแห่งการทำลายล้างทางคณิตศาสตร์” ภูมิปัญญาของมนุษย์จำเป็นต้องนำหางเสือกลับคืนมา Nowotny โต้แย้ง เธออธิบายถึงผลที่ตามมาของแนวทางที่ไม่วิพากษ์วิจารณ์ AI เช่น นัยของการขยายการเฝ้าระวังโดยไม่มีความรับผิดชอบหรือความชัดเจนเกี่ยวกับขอบเขตหรือวัตถุประสงค์ เธอสนับสนุนให้เราถามว่าจุดข้อมูล (การจดจำใบหน้า ข้อมูลตำแหน่ง จีโนม ไบโอเมตริกซ์) มีการตรวจสอบและทำแผนที่หรือไม่ เธอโต้แย้งว่าการสร้าง “โลกกระจก” ซึ่งทุกคนมีโลกดิจิทัล ส่งผลต่อการรับรู้ของเราที่มีต่อผู้อื่น ชีวิตที่อาศัย AI สามารถกระตุ้นความวิตกกังวลเกี่ยวกับอัตลักษณ์: “เราไม่ค่อยแน่ใจว่าเรากำลังดูตัวตนที่แท้จริงของเราหรือสิ่งที่สร้างขึ้นเอง” รายงานข่าวของการวิจัยเมื่อเดือนที่แล้วที่แสดงผลกระทบร้ายแรงของไซต์แบ่งปันรูปภาพต่อสุขภาพจิตของเด็กสาววัยรุ่นนั้นเป็นประเด็น
หุ่นยนต์ Fetch of Fetch Robotics ในร้านสะดวกซื้อทดลองที่ AIST โตเกียว ประเทศญี่ปุ่น
หุ่นยนต์อิสระที่ทำงานในร้านทดลองที่สถาบันวิทยาศาสตร์และเทคโนโลยีขั้นสูงอุตสาหกรรมในโตเกียว เครดิต: David Mareuil/Anadolu Agency/Getty
การเล่าเรื่องเกี่ยวกับศักยภาพของ AI ก็นำมาพิจารณาด้วยเช่นกัน Nowotny ดึงผลงานมาจากนักประวัติศาสตร์ Yuval Harari และ Robert Shiller นักเศรษฐศาสตร์เกี่ยวกับการติดต่อของเรื่องราว เธอเน้นย้ำถึงความดื้อรั้นของการเล่าเรื่องที่ว่าเทคโนโลยีเป็นประโยชน์ต่อทุกคนเสมอ แม้ว่าสิ่งนี้จะไม่สอดคล้องกับประสบการณ์จริงก็ตาม “ถ้าผู้ชายชนชั้นแรงงานในสหรัฐฯ ทุกวันนี้มีรายได้น้อยกว่าที่พ่อทำตอนอายุเท่ากัน ความก้าวหน้ามีความหมายต่อพวกเขาอย่างไร” เธอถาม. และเธอตรวจสอบว่าเราสร้างแนวคิดของข้อมูลอย่างไร ไม่ควรมองว่าเป็นสินค้าที่ปิดล้อมหรือปิดล้อมในกระบวนทัศน์ของสิทธิในทรัพย์สิน เธออธิบาย; ค่อนข้างจะเป็นสิ่งที่ดีทางสังคม
ในวิสัยทัศน์นี้ ปัญญาควรเป็นมากกว่าวิธีแก้ปัญหาทางเทคนิคง่ายๆ ตัวอย่างเช่น ‘การอธิบายได้’ ซึ่งทำให้แน่ใจว่า AI จะทำการตัดสินใจอย่างโปร่งใส มากกว่าที่จะอยู่ใน ‘กล่องดำ’ — มักถูกเสนอให้เป็นวิธีรักษาทั้งหมด แต่นั่นนำไปสู่ความตึงเครียดครั้งใหม่เนื่องจากความไม่สอดคล้องพื้นฐานตามที่นักเศรษฐศาสตร์ Diane Coyle และนักวิทยาศาสตร์คอมพิวเตอร์ Adrian Weller ได้สำรวจ ลักษณะที่กำหนดของอัลกอริทึมหมายความว่าผู้ออกแบบต้องระบุอย่างชัดเจนว่าค่านิยมใดและทางเลือกทางการเมืองที่จะให้บริการ แต่ความคลุมเครือของการกำหนดนโยบายที่นำโดยมนุษย์นั้นได้รับแจ้งจากการเจรจาแลกเปลี่ยน นี่เป็นการเลือกโดยปริยายซึ่งไม่ง่ายที่จะบังคับเข้าไปในแสง พิจารณาถึงความโกรธเคืองเกี่ยวกับอคติที่เกิดขึ้นในปีที่แล้ว ในระหว่างการระบาดใหญ่ มีการใช้อัลกอริทึมเพื่อทำนายผลการสอบของนักเรียนในโรงเรียนในสหราชอาณาจักรโดยอิงจากข้อมูลในอดีต
งานนี้เป็นการทำสมาธิที่น่าสนใจและทันเวลา Nowotny สร้างความสัมพันธ์ทางเศรษฐศาสตร์ ปรัชญา กฎหมาย วิทยาศาสตร์และเทคโนโลยี ประวัติศาสตร์ และสังคมวิทยา เพื่อมีส่วนร่วมกับศักยภาพและหลุมพรางของ AI และ data-dเทคโนโลยีใหม่ เธอตั้งคำถามที่ยั่วยุและไม่ตั้งกฎเกณฑ์มากเกินไป — เครื่องหมายของหนังสือดีๆ
Credit : aikidoadea.com aikidozaragoza.com arizonacardinalsfansite.com asicssalesite.com assistancedogsamerica.com bahisiteleriurl.com baseballontwitter.com baseballpadresofficial.com bigsuroncapecod.com billygoatwisdom.com
