Vitalik Buterin'den Kripto Projelerinde Yapay Zeka Kullanımına Uyarı

Ethereum'un kurucu ortağı Vitalik Buterin, kripto projelerinde yapay zekanın (YZ) yönetişim süreçlerinde kullanımına karşı uyarılarda bulundu. Buterin, kötü niyetli aktörlerin teknolojiyi istismar edebileceğini belirtti.

Buterin, Eito Miyamura'nın OpenAI'nin ChatGPT'sine eklenen yeni bir işlevin özel bilgileri sızdırmak için kullanılabileceğini gösteren bir videosuna yanıt verdi. Bu durum, birçok kripto kullanıcısının karmaşık ticaret botları ve portföylerini yönetmek için YZ'yi benimsemesi ve teknolojinin yönetişim gruplarının bir kripto protokolünün tamamını veya bir kısmını yönetmesine yardımcı olabileceği fikrini ortaya çıkarmıştı.

Buterin, 'YZ yönetişimi'nin kötü bir fikir olduğunu belirterek, 'bilgi finansmanı yaklaşımı' adını verdiği bir alternatif önerdi. Bu yaklaşım, herkesin modellerini sunabileceği, insanların tetikleyebileceği ve bir insan jürisi tarafından değerlendirilebilecek bir 'nokta kontrol mekanizması'na tabi tutulan açık bir pazar oluşturmayı içeriyor. Buterin, bu yaklaşımın, tek bir YZ'yi kodlamaktansa, dışarıdan LLM'lere sahip kişilerin dahil olması için açık bir fırsat yaratan bir 'kurum tasarım' yaklaşımı olduğunu belirtti.

Miyamura, ChatGPT'nin son güncellemesinin 'ciddi bir güvenlik riski' oluşturduğunu söyledi. Miyamura, bir saldırganın, kurbanın e-posta adresini kullanarak özel e-posta verilerini sızdırmayı başardığını belirtti. Saldırganın, kurbanın takvimine bir 'jailbreak istemi' içeren bir takvim daveti gönderebileceğini ve kurbanın daveti kabul etmesine gerek kalmadan, ChatGPT'nin istismar edilebileceğini ekledi. Kurban, ChatGPT'den takvimine bakmasını istediğinde, YZ daveti okuyacak ve saldırganın komutlarına göre hareket edecek ve bu sayede e-postaları arayarak saldırgana iletebilecek.

Sonuç olarak, Buterin, kripto projelerinde YZ kullanımının potansiyel risklerine dikkat çekerek, daha güvenli ve şeffaf yönetişim modellerine olan ihtiyacı vurgulamıştır.