ผู้ใจบุญอธิบายว่าทำไมเขาจึงตัดสินใจให้ทุนกับแนวคิดที่ไม่มีผู้บริจาครายอื่นจะแตะต้อง
การกุศลส่วนใหญ่มุ่งเน้นไปที่ระยะเวลาอันใกล้ — ไปที่มหาวิทยาลัยที่ให้ความรู้แก่ผู้คนในขณะนี้ หรือองค์กรศิลปะที่จัดแสดงและจัดแสดงอยู่ในขณะนี้ หรือโรงเก็บอาหารเพื่อช่วยเหลือผู้หิวโหยในขณะนี้
แล้วจะเกิดอะไรขึ้นเมื่อคุณพยายามบริจาคเพื่อการกุศลที่จะช่วยมนุษย์ไปอีกนาน ไม่ใช่แค่ใน 100 ปี แต่ในหนึ่งล้านปี?
นั่นคือสิ่งที่ Jaan Tallinn วิศวกรผู้ก่อตั้งของ Skype ได้ทำกับทรัพย์สมบัติของเขา เขาเป็นหนึ่งในผู้บริจาครายแรกๆ ที่โต้เถียงกันอย่างจริงจังว่าปัญญาประดิษฐ์ขั้นสูงเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษย์ไม่ใช่ตอนนี้ อาจไม่ใช่ในอีก 50 ปีข้างหน้า แต่จะอยู่ที่ใดที่หนึ่งในอนาคต เขาเชื่อว่าเราอาจกำลังเข้าสู่ยุคแรกในประวัติศาสตร์ของมนุษย์ซึ่งเราไม่ใช่กำลังหลักของโลก และเมื่อเรามอบอนาคตของเราให้กับ AI ขั้นสูง เราควรถูกสาปแช่งว่าศีลธรรมของมันสอดคล้องกับของเราเอง .
เขาได้บริจาคเงินมากกว่า 600,000 ดอลลาร์ให้กับMachine Intelligence Research Instituteซึ่งเป็นองค์กรสำคัญที่ทำงานเกี่ยวกับ “การจัดตำแหน่ง AI” (กล่าวคือ การจัดตำแหน่งผลประโยชน์ของปัญญาประดิษฐ์ให้สอดคล้องกับผลประโยชน์ของสังคมมนุษย์) และมากกว่า 310,000 ดอลลาร์ให้กับสถาบัน Future of Humanityที่ อ็อกซ์ฟอร์ดซึ่งทำงานในวิชาที่คล้ายคลึงกัน นอกจากนี้ เขายังร่วมก่อตั้งองค์กรใหม่ 2 แห่งที่กำลังศึกษาเกี่ยวกับ AI และภัยคุกคามจากการสูญพันธุ์อื่นๆ ได้แก่Center for the Study of Existential Risk at CambridgeและFuture of Life Institute
ทาลลินน์มาในพอดคาสต์ Future Perfectของ Vox ตอนล่าสุดเพื่อพูดคุยเกี่ยวกับเหตุผลเบื้องหลังการทำบุญของเขา และวิธีที่เขาถูกโน้มน้าวให้สนใจ AI มาก:
สำหรับคนที่ไม่คุ้นเคยกับข้อโต้แย้งที่ว่า AI ก่อให้เกิดความเสี่ยง การกระทำของทาลลินน์อาจดูแปลกประหลาด ดังนั้นเราจึงให้ Kelsey Piper นักข่าวของ Vox ที่เขียน เกี่ยวกับความเสี่ยงของ AI อย่างละเอียด อธิบายข้อโต้แย้ง และโรเบิร์ต ไรช์ นักปรัชญาแห่งมหาวิทยาลัยสแตนฟอร์ดผู้วิพากษ์วิจารณ์การทำบุญครั้งใหญ่ อธิบายว่าเหตุใดการทดลองครั้งใหญ่แบบนี้ในการให้จึงอาจเป็นสิ่งที่ดีที่สุดที่ภาคส่วนการกุศลมอบให้เรา
อ่านเพิ่มเติม
- ทาลลินน์อธิบายข้อกังวลของเขากับ AIในการประชุมที่เห็นแก่ผู้อื่นอย่างมีประสิทธิภาพ
- Kelsey Piper อธิบายถึงความเสี่ยงของ AI ที่ไม่มีข้อจำกัด
- ผู้เชี่ยวชาญด้าน AI เมื่อพวกเขาคาดหวังว่า AI จะแซงหน้าสติปัญญาของมนุษย์
- เท็ด เชียงวิจารณ์ความกังวลเรื่องความปลอดภัยของ AI
ลงทะเบียนเพื่อรับจดหมายข่าว Future Perfect สัปดาห์ละสองครั้ง คุณจะได้รับแนวคิดและแนวทางแก้ไขเพื่อจัดการกับความท้าทายที่ยิ่งใหญ่ที่สุดของเรา: การปรับปรุงด้านสาธารณสุข การลดความทุกข์ทรมานของมนุษย์และสัตว์ การลดความเสี่ยงจากภัยพิบัติ และพูดง่ายๆ ก็คือ การทำความดีให้ดีขึ้น
