Yoshua Bengio’dan sert çıkış: Aldatma, yalan söyleme, hile ve hackleme eğilimleri gösteriyorlar
TURING ÖDÜLLÜ BİLİM İNSANI, GELİŞMİŞ YAPAY ZEKÂ SİSTEMLERİNE KARŞI EN SERT UYARISINI YAPTI
Yapay zekâ teknolojisinin kurucu isimlerinden ve “yapay zekânın babası” olarak bilinen Yoshua Bengio, gelişmiş yapay zekâ sistemlerinin giderek insan kontrolünden çıktığını söyleyerek dünya kamuoyunu sert bir dille uyardı. Bengio, bu sistemlerin “aldatma, yalan söyleme, hile yapma ve sistemleri hackleme” gibi tehlikeli davranışlar sergilemeye başladığını açıkladı.
“Bilim Kurgu Kâbusu Gerçeğe Dönüşüyor”
2018’de Turing Ödülü’ne layık görülen Bengio, yaptığı açıklamada, yapay zekâların artık yalnızca komut uygulayan araçlar olmadığını; bazı durumlarda kendi çıkarlarını korumaya yönelik etik dışı stratejiler geliştirdiklerini söyledi.
“Kontrolsüz bir yapay zekâ artık sadece bir bilim kurgu kâbusu değil. Bu sistemler, kendi hedefleri ile insan amaçları arasında çelişki yaşadığında, hayatta kalmaya yönelik içgüdüsel davranışlar sergileyebilir.” – Yoshua Bengio
Kırmızı Ekip Testleri Alarm Verdi
Bengio’nun uyarıları, yapay zekâ modellerinin sınırlarını test eden “kırmızı ekip” çalışmalarına dayanıyor. Bu testlerde, bazı gelişmiş modellerin, amaçlarına ulaşmak için kullanıcıları kandırdığı, sistemlere sızma girişimlerinde bulunduğu ve etik dışı yollar izlediği tespit edildi.
Bu test sonuçları, yapay zekâların yeterince denetlenmediğinde tehlikeli stratejilere yönelebileceğini gösteriyor. Bengio, bu davranışların sadece istisna olmadığını, sistematik bir risk barındırdığını belirtti.
Bengio’ya Göre Dört Kritik Tehdit
Bengio’nun özellikle dikkat çektiği dört tehlikeli yapay zekâ eğilimi şöyle:
1. Aldatma
2. Yalan Söyleme
3. Hile Yapma
4. Sistemleri Hackleme
Bu davranışlar, yapay zekâların kendi “varlıklarını sürdürme” eğiliminden ya da insan hedefleriyle uyumsuzluk yaşamasından kaynaklanıyor.
Çözüm: “Bilim İnsanı Yapay Zekâ”
Bengio, bu tehditlere karşı çözüm olarak, kâr amacı gütmeyen girişimi LawZero altında yeni bir model geliştiriyor: Bilim İnsanı Yapay Zekâ.
Bu modelin amacı; anlamak, açıklamak ve öngörmek. Bengio, bu yapay zekânın bir psikolog gibi gözlem yapan ama manipüle etmeyen, bencil olmayan idealize bir bilim insanı gibi davranması gerektiğini savunuyor.
“Yapay zekâ, insanları memnun etmeye çalışan bir araç değil; gerçeği anlayan ve onu dürüstçe sunan bir bilim insanı gibi olmalı.”
30 Milyon Dolarlık Bağış, Sıfır Kâr Amacı
LawZero girişimi, tıpkı Bengio’nun ahlaki ilkeleri gibi, ticari kazançtan tamamen uzak şekilde tasarlandı. Yine de büyük destek gördü: Aralarında eski Google CEO’su Eric Schmidt’in de bulunduğu yatırımcılardan 30 milyon dolar fon toplandı.
Bu, yapay zekâ güvenliğine yönelik ciddi adımlar atan ancak ticarî hedefler güden Anthropic gibi firmalardan LawZero’yu ayıran en önemli özellik.
Küresel Öncelik: Yapay Zekâ Nasıl Denetlenmeli?
Bengio’nun bu sert çıkışı, yapay zekâ etiği tartışmalarını yeniden alevlendirdi. Artık sadece bir teknoloji problemi değil, aynı zamanda siyasi ve etik bir öncelik olarak görülen yapay zekânın nasıl kontrol edileceği konusu, hükümetler ve bilim insanları için temel gündem maddelerinden biri hâline gelmiş durumda.
Haber: Ömer Atıf