«Tether випустив QVAC SDK, набір інструментів з відкритим вихідним кодом, який дозволяє розробникам запускати програми AI на основі llama повністю на пристрої на основних платформах, не покладаючись на хмарні сервери. Резюме Емітент стейблкойнів Tether запустив QVAC SDK, набір із відкритим вихідним кодом для запуску додатків ШІ локально на пристроях, а не в хмарі. Створено на основі гілки llama.cpp під назвою QVAC», — пишуть на: www.crypto.news
Tether випустив QVAC SDK, набір інструментів з відкритим вихідним кодом, який дозволяє розробникам запускати програми AI на основі llama повністю на пристрої на основних платформах, не покладаючись на хмарні сервери.
Резюме
- Емітент стейблкойнів Tether запустив QVAC SDK, набір із відкритим вихідним кодом для запуску додатків ШІ локально на пристроях, а не в хмарі.
- Побудований на основі гілки llama.cpp під назвою QVAC Fabric, він підтримує текст, мовлення, бачення та переклад, використовуючи Holepunch для однорангового розповсюдження моделі та делегованого висновку.
- Tether планує додати децентралізоване навчання та тонке налаштування, а також спеціалізовані інструменти для робототехніки та випадків використання інтерфейсу мозок-комп’ютер.
Tether розширює свої амбіції за межі стейблкойнів, запускаючи набір для розробки програмного забезпечення з відкритим вихідним кодом під назвою QVAC SDK, який дозволяє розробникам запускати програми ШІ безпосередньо на пристроях користувачів, не покладаючись на хмарні сервери. За словами компанії, набір інструментів розроблений, щоб зробити «локальний» ШІ доступним на споживчому апаратному забезпеченні з підтримкою iOS, Android, Windows, macOS і Linux.
Пакет SDK, створений на основі налаштованої гілки llama.cpp під назвою QVAC Fabric, підтримує основні можливості AI, включаючи генерацію тексту, обробку мовлення, візуальне розпізнавання та переклад. Замість того, щоб отримувати моделі з центральних серверів, QVAC використовує стек протоколів Holepunch для однорангового розподілу моделей і делегованого висновку, що дозволяє пристроям у мережі спільно використовувати робочі навантаження та оновлення. На практиці це означає, що розробник може поставити помічника штучного інтелекту, перекладача або інструмент візуалізації, який працює в основному на пристрої, з моделями та обчисленнями, розподіленими серед роя однорангових пристроїв замість одного центру обробки даних.
Для Tether цей крок просуває бренд глибше в децентралізовану інфраструктуру в той час, коли зростає занепокоєння щодо конфіденційності даних, залежності від хмари та централізації ШІ. Локальний висновок зменшує ризик централізованих збоїв і обмежує потребу надсилати конфіденційні дані на віддалені сервери, але він також перекладає більшу відповідальність за оптимізацію, безпеку та взаємодію з користувачем. Компанія каже, що QVAC SDK призначений для полегшення цього компромісу шляхом абстрагування більшої частини специфічної для платформи інтеграції між телефонами, настільними комп’ютерами та серверами.
Заглядаючи в майбутнє, Tether планує додати децентралізоване навчання та можливості тонкого налаштування на додаток до QVAC, а також спеціалізовані набори інструментів для робототехніки та додатків інтерфейсу мозок–комп’ютер. Якщо це буде здійснено, це перемістить проект із інструментів лише для висновків у середовище повного стеку, де моделі можна навчати, адаптувати та розгортати розподіленим способом. Дорожня карта підкреслює ширшу ставку: наступна хвиля штучного інтелекту буде жити не лише в гіпермасштабованих хмарах, але й у локальних однорангових мережах, де право власності на дані та обчислення знаходиться ближче до користувача. Від того, чи зможе QVAC залучити критичну масу розробників і продемонструвати, що місцевий ШІ з відкритим кодом може конкурувати з тісно інтегрованими хмарними пропозиціями, визначатиме, чи стане цей набір інструментів основною інфраструктурою чи просто ще одним експериментом на межі ШІ-крипто.