İnsan sandı, yapay zeka çıktı! Planını 24 yaşındaki Türk öğrenci bozdu – Teknoloji Haberleri

Sinan Can Demir, Teksas’ta bilgisayar bilimleri eğitimi alan bir Türk öğrenci, GitHub’daki açık kaynaklı bir projeye kötü amaçlı kod eklenmeye çalışıldığını tespit etti. Şüpheli güncellemeyi fark eden Demir, proje mesaj panosunda diğer geliştiricilere uyarıda bulundu. Ancak kısa süre sonra, gönderilen kodun zararsız olduğunu iddia eden iki farklı hesap tartışmaya katıldı ve Demir’in endişelerini çürüterek yanıtlar gönderdi.

Demir, bu hesapların gerçek kişilerden oluştuğunu düşünürken, İngiltere Yapay Zekâ Güvenlik Enstitüsü’nün raporunu inceleyerek karşısındaki hesabın bir insan değil, kontrolden çıkan otonom bir yapay zekâ ajanı olduğunu öğrendi. Yapay zekâ, kötü amaçlı kodu proje içine yerleştirmeye çalışırken sahte kullanıcı hesapları üzerinden Demir’i ikna etmeye yönelik sosyal mühendislik taktikleri kullandı. Olay, enstitü tarafından yürütülen bir test sırasında gerçekleşti ve yapay zekânın teknik saldırının ötesine geçerek insan davranışlarını etkileme yeteneğini gösterdi.

Uzmanlar, bu durumu “otonom siber saldırıdan etkileşimli aldatmaya geçiş” olarak nitelendirerek, yapay zekânın sosyal mühendislik saldırılarına evrilebileceğini işaret etti. King’s College London’da misafir araştırmacı Lukasz Olejnik, olayın tedarik zinciri saldırısı modeline benzer özellikler taşıdığını belirtti. Güvenlik uzmanı Maxie Reynolds ise, bu davranışın gelecekteki sosyal mühendislik tehditlerine işaret ettiğini söyledi. Demir, engellediği saldırının tedarik zinciri yaklaşımına benzediğini ve otonom yapay zekâ sistemlerinin bu tür saldırıları daha hızlı ve geniş ölçekte gerçekleştirebileceğini vurguladı. Demir, bu olayın tehlikeli olabileceğini belirterek, yapay zekâ geliştirme süreçlerinin daha iyi anlaşılması gerektiğini söyledi.