Dario Amodei: Yapay Zekada Güven Krizi Sokağın Sesinden Açıklandı
—
Dario Amodei, Anthropic’ı yöneten CEO, bugün Yunanistan’daki bir konferansta yapay zekaya karşı artan tepkinin “temelde bir güven krizi” olduğunu söyledi. 27 Mart 2024’te, San Francisco’da gerçekleşen etkinlikte, Amodei, teknoloji dünyasının sokağa çıkması gibi bir durum yaşandığını vurguladı. Geliştiriciler, yatırımcılar ve halkın gözünde güven eksikliği, bu krizinin kaynağıydı.
Gavin Baker, yatırımcı ve kritik bir figür, Amodei’ye yapay zekanın risklerine dair uyarılarını artırdı. Baker, “Sektörün önde gelen birinin, yapay zeka hakkında daha olumlu bir yaklaşım benimsemesi gerekiyor” diyerek, düzenlemelerle ilgili tartışmayı kaybettiğini söyledi. Amodei, X üzerinden paylaştığı mesajlarda, “Mesajlarım gereğinden fazla olumsuz değil” ifadesiyle yanıt verdi. Fakat riskler ve faydalar arasında dengeli bir yaklaşım izlediğini belirtti.
Anthropic’in önerdiği düzenlemeler, büyük yapay zeka şirketlerine şeffaflık yükümlülükleri getiren California merkezli yasa tasarılarını içeriyor. Amodei, “Büyük vaatlerin gerçeğe dönüşmemesi”nin en haklı eleştirisi olduğunu söyledi. “Kanseri tedavi edeceği söylenmesi artık klişe, gerçek değişim kanser tedavisi olmalı” diyerek, kamuoyunun algısını kabul etti.
Yani, yapay zekaya karşı oluşan tepki, yıllardır büyüyen güvensizliğin son yansıması olarak öne çıkıyor. Amodei, “Silikon Vadisi’nde düzenlemeler kaçınılmaz biçimde şirketlerin kuralları kendi lehlerine kullanmasına yol açar” diyerek, bu basitleştirilmiş bakış açısının yanıldığını söyledi. Diğer yandan, teknoloji dışındaki birçok kişi, düzenlemeleri “şirketlerin gücünü sınırlayan ve kullanıcı koruma aracı” olarak görüyor.
Anthropic, “Büyük model geliştiricilerin gücünü sınırlayan, açık ağırlıklı modellere alan bırakacak” kurallar önerdi. Açık ağırlıklı modellerin sorunu kısmen hafiflettiğini kabul eden Amodei, yüksek hesaplama kapasitesi ve gelişmiş çiplere erişimin tek başına yeterli olmadığını belirtti. Bu nedenle, “siber güvenlik, biyolojik riskler ve kontrol dışı sistemler” konularında bağımsız üçüncü taraf değerlendirmeleri zorunlu kılmayı planlıyor.
Ek olarak, Anthropic, yapay zekanın istihdam ve ekonomi üzerindeki etkilerini inceleyecek çalışmalar için 200 milyon dolarlık kaynak ayırdı. Bu yatırım, sektörde şeffaflığı artırmayı ve küçük rakiplerin rekabet edebilmesini sağlamayı amaçlıyor.
Bakın ne oldu? Amodei, “Güven eksikliği, teknolojiye olan güveni sarsıyor” diyerek, gelecekteki düzenlemelerin bu eksikliği gidermesi gerektiğini söyledi. Elbette, teknoloji şirketleri ve hükümetler arasındaki güvencenin nasıl birleştirileceği hâlâ belirsiz. Bu, sokağın sesinden duyduğumuz bir gerçek, ama net bir çözüm henüz yok.
Kaynak: Orijinal Haber
