Шпигунські ігри в Кремнієвій долині: особистий досвід та критичний погляд на “перетравлювання” ШІ від Китаю
Як старший редактор та експерт з понад 20-річним досвідом роботи в бізнес-аналізі, автоматизації та штучному інтелекті, я з особливою увагою стежу за розвитком ШІ. Останні події, зокрема звинувачення Anthropic на адресу китайських компаній, змушують замислитись над багатьма аспектами цієї індустрії. Почнімо з найцікавішого: як китайські компанії “перетравлюють” американський ШІ, а потім і самі скаржаться на крадіжку.
Особистий досвід: Протягом моєї кар’єри я був свідком багатьох змін у світі технологій, і часто бачив повторення тих самих сценаріїв – від великих винаходів до їхнього копіювання. Відверто кажучи, тактика “перетравлювання” ШІ зовсім не нова.
Нещодавно, новина про те, що Anthropic, розробник передових ШІ-моделей, звинувачує три китайські компанії – Deepseek, Moonshot та Miniax – у масштабному “стравлюванні” їхніх моделей, викликала значний резонанс. І, якщо чесно, це все дуже нагадує боротьбу за ринкову долю. Адже мова йде не про фізичне обладнання, а про інтелектуальну власність. Китайські компанії, за твердженням Anthropic, нібито витягли “мудрість” з їхніх моделей, використовуючи дистиляцію та інші методи. Понад 24 тисячі “переговорів” і 16 мільйонів обмінів даними – все це через фальшиві облікові записи та проксі-мережі. Звучить як сценарій з гостросюжетного кіно, чи не так?
Але перш ніж ми перейдемо до подробиць, давайте розберемось у суті того, що відбувається.
Дистиляція моделей: як це працює та чому має значення для вас
Щоб зрозуміти складність ситуації, спочатку слід розібратися з самим процесом, який називають “дистиляція моделей”. Уявіть собі, що ви – маестро кулінарії, який удосконалював рецепт фірмового борщу протягом багатьох років. Ви витратили сотні годин на експерименти, щоб створити чудовий смак вашої страви. Саме це, наприклад, робить модель Claude Opus від Anthropic. Розробка її проходила протягом багатьох місяців за рахунок тисяч потужних комп’ютерів. Це як створення космічного корабля – дорого, складно, але результат вражаючий.
Тепер уявіть, що у вас є учні, які хочуть навчитися готувати ваш борщ. Очевидно, вони не можуть витратити стільки ж часу і ресурсів. На допомогу приходить дистиляція.
Експертний погляд: Дистиляція – це метод стиснення великої мовної моделі. Він дозволяє зменшити розмір та підвищити швидкість роботи без суттєвої втрати якості. Це робиться шляхом “навчання” меншої моделі (“студентської”) на виходах більшої (“вчительської”).
Замість того, щоб давати учням весь ваш багатотомний збірник рецептів, ви використовуєте іншу тактику. Учні ставлять вам питання про борщ, а ви, як “вчитель”, відповідаєте, пояснюючи не тільки кінцевий результат, але й весь процес приготування. Ви розкриваєте всі нюанси кожного етапу, від вибору інгредієнтів до їхньої обробки.
Цей процес повторюється тисячі разів. “Студентська” модель вчиться мислити як “вчительська”, аналізуючи інформацію та роблячи висновки. Таким чином, учень може приготувати борщ, який буде дуже схожий на ваш, але йому не потрібно буде знати всі тонкощі вашого досвіду.
Особистий досвід: Я спостерігав, як дистиляція моделей використовується у різних проектах, від розробки чат-ботів до оптимізації алгоритмів машинного навчання. Ефективність цього методу очевидна, але він також відкриває двері для потенційних ризиків.
Чому це важливо? Дистиляція дозволяє створити меншу, швидшу і дешевшу модель. Замість Claude Opus – Sonnet чи Haiku. Це стає ключовим для багатьох технологічних компаній, даючи їм змогу досягати кращих результатів з меншими витратами.
Шпигунська драма: що ж робить Anthropic?
Тепер повернімось до нашої драми. Anthropic стверджує, що три китайські компанії, згадані вище, використовували дистиляцію, але з цинізмом. За їх словами, вони вдавалися до певних методів.
- Липові акаунти та проксі-сервери: Це як спроба дізнатися секрети чужого будинку, змінивши зовнішність. Компанії створили тисячі фейкових облікових записів, приховуючи свої IP-адреси. Anthropic каже, що має докази цього, включаючи IP-адреси, метадані запитів та інформацію від партнерів.
- Deepseek: Компанія провела понад 150 000 сеансів з моделлю Claude, щоб навчити свою власну модель відповідати нормам Китаю. Тобто, фактично, щоб її модель стала більш цензурною.
- Moonshot AI: Ця компанія провела понад 3,4 мільйона сеансів з Claude, зосереджуючись на агентному мисленні. Зокрема, використовувала інструменти кодування та аналізу даних.
- Miniax: Чемпіон за обсягом “консультацій” – понад 13 мільйонів! Вони також цілилися на агентне мислення, кодування та використання інструментів. Примітно, що після випуску нової моделі Anthropic, Miniax перенаправила майже половину свого трафіку на нову модель, щоб “викачати” її знання.
Рекомендація експерта: Використання підроблених облікових записів та проксі для доступу до сервісів майже завжди є порушенням умов використання. Такі дії вкрай невигідні та можуть мати негативні наслідки.
“А ви самі хто?” – питання етики та подвійних стандартів
Ось тут починаються найцікавіші “підводні камені”. Чи дійсно Anthropic є невинною стороною в цій історії? Як людина, яка не перший рік в цій галузі, скажу, що сумніваюся.
Особистий досвід: За роки роботи я переконався, що в технологіях, як і в будь-якому бізнесі, є свої правила гри. І, на жаль, правила не завжди дотримуються.
Anthropic сама неодноразово потрапляла в суперечливі ситуації:
- Авторські права: У 2023 році Anthropic врегулювала позов щодо порушення авторських прав, заплативши 1,5 мільярда доларів. Їхні моделі навчалися на даних з книг, на які вони не мали прав.
- Reddit проти Anthropic: Reddit подав до суду, звинувачуючи Anthropic у несанкціонованому використанні даних Reddit.
Багато хто стверджує, що ситуації різні. Але по суті, і Anthropic, і китайські компанії порушили умови використання сервісів для навчання своїх моделей.
Висновок експерта: Практично всі великі компанії, що працюють у сфері ШІ, в різній мірі вдавалися до подібних методів. Індустрія працює за принципом “бери, що є, а потім, можливо, будеш виправдовуватись”.
Вплив на майбутнє: що чекає на нас далі?
Ця історія має значення не тільки для компаній, а й для усіх нас.
- Безпека: Дистиляція може послабити захисні механізми моделей. Модель, яка пройшла дистиляцію, ризикує стати менш контрольованою та потенційно небезпечною.
- Геополітика: Anthropic використовує цю ситуацію, щоб показати необхідність обмеження доступу Китаю до обчислювальних ресурсів.
- Правові питання: Що стосується дистиляції моделей, то тут справжня юридична невизначеність. Наразі немає чіткого законодавства щодо захисту інтелектуальної власності в цьому контексті.
Аналітичний висновок: Сучасна індустрія ШІ стоїть перед серйозною проблемою авторських прав. І те, що ми бачимо зараз, – це боротьба за те, хто буде контролювати майбутнє ШІ.
В цілому, у нас захоплююча історія про те, як працюють інновації, конкуренція, шпигунство та етика.
Що я можу порадити:
- Будьте обізнані: Розумійте принципи роботи та потенційні ризики технологій.
- Будьте в курсі подій: Технологічний світ змінюється щодня.
- Цифрова етика: Повага до інтелектуальної власності є фундаментом для цифрового світу.
Я сподіваюся, що цей аналіз був корисним. Якщо є питання, ставте. До нових зустрічей та відкриттів у світі ШІ!
