Tether, Llama Tabanlı Yapay Zeka Uygulamalarını Yerel Olarak Çalıştıran Açık Kaynaklı SDK'sını Piyasaya Sürdü

Stablecoin ihracatçısı Tether, yapay zeka uygulamalarını bulut sunucularına ihtiyaç duymadan doğrudan kullanıcı cihazlarında çalıştıran, QVAC SDK adlı açık kaynaklı bir yazılım geliştirme kitini piyasaya sürdü. Şirkete göre araç takımı, iOS, Android, Windows, macOS ve Linux'u destekleyerek "yerel öncelikli" yapay zekayı tüketici donanımlarında erişilebilir hale getirmek üzere tasarlandı.

QVAC Fabric adlı özelleştirilmiş bir llama.cpp dalı üzerine inşa edilen SDK, metin oluşturma, konuşma işleme, görsel tanıma ve çeviri gibi temel yapay zeka yeteneklerini destekler. Modelleri merkezi sunuculardan çekmek yerine QVAC, eşler arası model dağıtımı ve devredilmiş çıkarım için Holepunch protokol yığınını kullanır. Bu, bir ağdaki cihazların iş yüklerini ve güncellemeleri paylaşmasına olanak tanır. Pratik olarak, bu, bir geliştiricinin, modelleri ve hesaplamaları tek bir veri merkezi yerine bir eşler topluluğu arasında dağıtılmış olarak, öncelikle cihazda çalışan bir yapay zeka asistanı, çevirmen veya vizyon aracı gönderebileceği anlamına gelir.

Tether için bu hamle, veri gizliliği, bulut bağımlılığı ve yapay zeka merkezileşmesi konusundaki endişelerin arttığı bir dönemde markasını merkeziyetsiz altyapıya daha derinlemesine itiyor. Yerel çıkarım, merkezi kesintilere maruz kalmayı azaltır ve hassas verilerin uzaktaki sunuculara gönderilme ihtiyacını sınırlar, ancak aynı zamanda optimizasyon, güvenlik ve kullanıcı deneyimi için daha fazla sorumluluğu uca kaydırır. Şirket, QVAC SDK'sının, telefonlar, masaüstü bilgisayarlar ve sunucular arasındaki platforma özgü entegrasyonun çoğunu soyutlayarak bu değiş tokuşu kolaylaştırmayı amaçladığını söylüyor.

Geleceğe yönelik olarak Tether, QVAC'in üzerine merkeziyetsiz eğitim ve ince ayar yeteneklerinin yanı sıra robotik ve beyin-bilgisayar arayüzü uygulamaları için özel araç takımları eklemeyi planlıyor. Sağlanması halinde, bu, projeyi yalnızca çıkarım araçlarından, modellerin dağıtılmış bir şekilde eğitilebildiği, uyarlanabildiği ve konuşlandırılabildiği tam yığın bir ortama taşıyacaktır. Yol haritası daha geniş bir bahsin altını çiziyor: Yapay zekanın bir sonraki dalgasının sadece hiperscale bulutlarda değil, aynı zamanda hem verilerin hem de hesaplamanın mülkiyetinin kullanıcıya daha yakın olduğu yerel, eşler arası ağlarda da yaşayacağı. QVAC'in kritik bir kitle geliştirici çekip çekemeyeceği ve yerel, açık kaynaklı yapay zekanın sıkıca entegre edilmiş bulut teklifleriyle rekabet edebileceğini gösterip gösteremeyeceği, bu araç takımının temel bir altyapı mı yoksa yapay zeka-kripto sınırının ucundaki bir deney mi olacağını belirleyecektir.