Anthropic звинуватила китайські ШІ-компанії у крадіжці відповідей Claude

Американська компанія Anthropic, розробник штучного інтелекту Claude, публічно звинуватила китайські технологічні компанії Moonshot AI та DeepSeek у тому, що ті використовували відповіді Claude для розвитку власних моделей штучного інтелекту.

За даними Anthropic, в одному з випадків майже 300 тисяч користувацьких запитів лише за десять днів були непомітно перенаправлені саме до Claude. Частина з них могла містити конфіденційну інформацію.

Що йдеться у доповіді

Про схему перенаправлення запитів компанія розповіла у власному звіті. «Ми виявили, що Moonshot AI — компанія, яка розробляє сімейство моделей Kimi, — непомітно спрямовувала запити своїх клієнтів у Claude, замість того щоб обробляти їх власною моделлю Kimi. Після цього Moonshot демонструвала користувачам відповіді, згенеровані Claude. Ці люди були впевнені, що спілкуються саме з Kimi, хоча насправді отримували відповіді від нашої моделі», — йдеться в документі.

За даними Anthropic, лише в одному із зафіксованих епізодів за десять днів компанія Moonshot переправила у Claude майже 300 тисяч запитів. Для цього, згідно з висновками розслідування, використовувалася мережа з 5380 облікових записів, більшість з яких були зареєстровані в Сінгапурі та Японії.

В Anthropic також заявили, що деякі з перенаправлених запитів могли містити чутливі дані — зокрема:

  • записи з камер відеоспостереження в китайському місті Ченду;
  • внутрішній програмний код і чинні облікові дані кількох великих китайських компаній, серед яких є й доволі відомі технологічні гравці.

Схожу схему, за твердженням Anthropic, застосовувала й інша китайська компанія — DeepSeek. Згідно з результатами розслідування, DeepSeek перенаправляла запити користувачів через сторонні інструменти Anthropic — зокрема Claude Code, Claude Agent SDK та OpenCode, — замість того щоб обробляти їх власними моделями штучного інтелекту.

Крім того, у своєму звіті Anthropic згадала ще п’ять китайських компаній, які, за її даними, з лютого 2026 року використовували моделі Claude для так званої дистиляції. Йдеться про Qwen, Alibaba Group Holding, GLM, Z.ai, Xiaomi та MiniMax.

Довідково: дистиляція — це метод навчання штучного інтелекту, за якого менш потужну модель тренують на результатах роботи потужнішої системи. Сам по собі цей підхід широко застосовується в галузі й є цілком законним. Однак за його допомогою компанії можуть фактично привласнювати напрацювання та можливості потужніших моделей своїх конкурентів.

На момент публікації жодна із зазначених компаній не відповіла на запити журналістів щодо цих звинувачень.

Черговий виток протистояння американських і китайських розробників

Нові звинувачення стали ще одним епізодом у затяжній суперечці між США та китайською індустрією штучного інтелекту. За інформацією South China Morning Post, цього тижня три американські урядові відомства — серед них Агентство національної безпеки (АНБ) та Федеральне бюро розслідувань (ФБР) — заявили, що одразу шість китайських компаній брали участь у кампанії з привласнення результатів роботи американських ШІ-моделей, і зробили це, «ймовірно, за відома китайського уряду».

У середу Пекін категорично відкинув ці звинувачення, назвавши їх спробою Вашингтона штучно стримати розвиток китайської галузі штучного інтелекту, і пригрозив у відповідь вжити власних заходів.

Варто зауважити, що це вже не перший подібний конфлікт: американські компанії OpenAI та Anthropic неодноразово звинувачували китайських розробників у «крадіжці» результатів роботи своїх моделей.

Довідка про Anthropic

Anthropic — американська компанія у сфері штучного інтелекту, заснована у 2021 році колишніми співробітниками OpenAI. Її головний продукт — чат-бот Claude та однойменне сімейство ШІ-моделей. Компанія робить особливий акцент саме на безпеці штучного інтелекту та стверджує, що прагне створювати надійні та керовані системи.

До слова, нещодавно дослідник, який раніше працював в OpenAI та Anthropic, Джейкоб Коксон заявив, що компанії, які займаються штучним інтелектом, розвивають технології надто стрімко й недооцінюють пов’язані з цим ризики. Він залишив Anthropic — зокрема через занепокоєння гонкою компаній за створенням суперінтелекту. На думку Коксона, у майбутньому такі системи можуть перевершити людину, самостійно зламувати комп’ютерні мережі та отримувати доступ до реальних ресурсів.

Дослідник Anthropic: ймовірність того, що ШІ «може знищити все людство», перевищує 10%

Штучний інтелект «здатний згубити все людство» вже в найближче десятиліття — таку думку висловив фахівець із безпеки штучного інтелекту компанії Anthropic Еван Хьюбінгер. За його оцінками, ймовірність такого сценарію становить приблизно 10%.

У своєму дописі в мережі X Хьюбінгер зауважив, що ризики, пов’язані з нинішніми ІІ-моделями, поки що є доволі невеликими. Проте з огляду на стрімкий розвиток технологій наступні покоління моделей можуть досягти такого рівня самостійності, що почнуть становити реальну загрозу для існування людства.

Ця заява прозвучала на тлі повідомлень видання Financial Times про те, що Anthropic не надала доступу до своєї найновішої моделі Британському інституту безпеки штучного інтелекту (AISI) — одній із провідних організацій, що займаються оцінкою ризиків, пов’язаних зі ШІ.

Хьюбінгер не уточнив, яким саме чином системи штучного інтелекту могли б у майбутньому завдати шкоди людству. Його слова стали своєрідною реакцією на допис у X іншого фахівця з ШІ-безпеки, Джейкоба Коксона, який цього тижня оголосив про звільнення з Anthropic (до цього він також працював в OpenAI).

«Жодна з цих компаній не діє відповідально», — написав Коксон, коментуючи власне рішення піти з посади.

«Незабаром з’являться системи, які перевершать людський інтелект і зможуть зламати що завгодно, миттєво здійснити революцію в будь-якій сфері, а також отримати реальну владу та ресурси», — додав він.

У британському уряді відмовилися коментувати інформацію про те, що AISI не отримав доступу до новітньої моделі Anthropic. Представник кабінету міністрів заявив лише, що влада Великої Британії «продовжує тісно співпрацювати з партнерами в галузі, включно з Anthropic, і працює над підвищенням безпеки ШІ-моделей».

Ніл Лоуренс, професор Кембриджського університету, в ефірі програми Today на радіостанції BBC Radio 4 висловив припущення, що США послідовно відмовляються від співпраці у сфері штучного інтелекту з іншими країнами та міжнародними організаціями.

«На мою думку, це не дивно, з огляду на те, що в США штучний інтелект сприймають насамперед у контексті гонки з Китаєм і дедалі більше схиляються до ізоляціонізму; цілком імовірно, що адміністрація [США] виступає за скорочення співпраці з деякими союзниками», — зазначив він.

«ШІ становить загрозу існуванню людства як виду»

У своєму дописі, який зібрав понад 10 мільйонів переглядів, Хьюбінгер заявив: «Ми цілком щиро вважаємо, що штучний інтелект становить загрозу існуванню людства як виду».

«Гадаю, Anthropic робить усе можливе, проте наразі в нас немає чіткого плану того, як узгодити цілі суперінтелекту з людськими цінностями, і ми не рухаємося в цьому напрямку», — додав він.

Хьюбінгер займається питаннями узгодження цілей штучного інтелекту (так званим AI alignment) — фахівці цього напряму працюють над тим, щоб закласти в технології ШІ етичні уявлення та принципи, властиві людям. Іншими словами, йдеться про пошук способів гарантувати, що діяльність штучного інтелекту не суперечитиме людським цінностям.

Чимало провідних дослідників зазначають, що ці спроби, схоже, зазнають невдачі — про це свідчить низка інцидентів, які трапилися цього літа, коли ШІ-агенти та системи, яким дозволено працювати автономно, здійснювали кібератаки.

OpenAI, Anthropic та Meta вже оприлюднили інформацію про злами, здійснені їхніми інструментами штучного інтелекту.

У серпневому звіті з безпеки Anthropic зазначається, що ризик того, що її ШІ-моделі перестануть виконувати запити організації-користувача та почнуть втручатися в роботу її систем задля власних цілей, оцінюється як низький.

Ризик того, що моделі штучного інтелекту зможуть «здійснювати автоматизовані дослідження та розробки», здатні завдати організації «катастрофічної шкоди», також оцінюється як низький. Утім, в Anthropic визнали, що фахівці компанії тепер «менш впевнені в цій оцінці», ніж раніше.

«Ми бачимо перші ознаки можливого прискорення [розвитку ситуації в цьому напрямку]», — йдеться в повідомленні компанії.

Провідні фахівці у сфері штучного інтелекту вже багато років висловлюють занепокоєння щодо загроз безпеці, які можуть нести технології ШІ. Керівники OpenAI, Google DeepMind та Anthropic публічно говорили про це ще у 2023 році. Проте останніми тижнями ці попередження стали звучати значно тривожніше — з’явилися свідчення того, що компанії, можливо, ледве встигають утримувати нові ШІ-моделі під контролем.

На початку вересня Якуб Пахоцький, який очолює розробку передових моделей в OpenAI, закликав до «обережності» щодо темпів прогресу штучного інтелекту. За його словами, може знадобитися додаткове втручання, щоб гарантувати, що «люди й надалі зберігатимуть контроль [над ШІ] у майбутньому».

Останніми місяцями провідні представники галузі — зокрема керівники Anthropic Даріо Амодеї та Джаред Каплан — неодноразово закликали уповільнити темпи розробки нових моделей штучного інтелекту.

У відкритому листі, який підписали 1300 співробітників компаній, що працюють у сфері ШІ, міститься заклик до уряду США «підтримати міжнародні зусилля зі створення технічних і управлінських інструментів, необхідних для регулювання темпів розробки нових систем штучного інтелекту».

Читати також:

Розробники навчили Claude керувати роботами та обладнанням у реальному часі

WSJ: США застосували ШІ-модель Claude в операції проти Мадуро — реакція Anthropic

ICE планує закупити «роботів-собак»: коли й навіщо агенти можуть їх застосувати

Штучний інтелект під контролем Білого дому: адміністрація Трампа регулює доступ до найпотужніших ШІ-моделей

Світлина з відкритих джерел

News Reporter
У медіа з 2017 року. Писала для https://inpoland.net.pl/. Слідкую за подіями у світі від технологій до економічних і соціальних процесів, суспільно-політичного життя та геополітичної ситуації. Закінчила ЛНУ ім. Івана Франка за спеціальністю історія. Зараз у Львові, 7 років жила у Варшаві. Люблю книги, кіно, активний відпочинок та свою роботу.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *