Чат-боти можуть бути корисні для роботи та особистих завдань, але вони збирають величезну кількість даних. Федеральна торгова комісія США перевірить творців ChatGPT на порушення низки законів.

FTC проводить розслідування щодо компанії OpenAI, яка створила і володіє ChatGPT, з метою з’ясувати, чи не порушувала вона закони про захист прав споживачів.

Газета The Washington Post, яка першою повідомила про це розслідування, опублікувала 20-сторінкову вимогу FTC, в якій викладаються основні претензії до OpenAI. Джерело, знайоме з цим питанням, підтвердило телекомпанії CNBC справжність документа. Федеральна торгова комісія США поки що не коментує ситуації.

У документі FTC вимагає надати звіти про те, як OpenAI усуває ризики, пов’язані з її моделями штучного інтелекту. Зокрема, у документі йдеться, що перевірка повинна з’ясувати – чи не застосовувала компанія Open AI «недобросовісні чи обманні методи захисту конфіденційності, чи безпеки даних», чи «пов’язані з ризиком завдання збитків споживачам, включаючи репутаційні збитки».

FTC цікавить широкий спектр матеріалів по роботі OpenAI. Зокрема – інформація про витік даних у березні 2023 року, коли у відкритий доступ потрапили історії чатів та платіжні дані понад 1% користувачів ChatGPT.

Гендиректор компанії OpenAI Сем Альтман писав тоді у Твіттері: «Ми почуваємося жахливо з цього приводу».

Тепер FTC перевірить OpenAI на порушення закону про захист споживачів. Регулятор також запросив записи про скарги користувачів на чат-бот у разі помилок або неправдивих заяв.

Федеральна торгова комісія вже неодноразово заявляла, що продукти штучного інтелекту повинні відповідати чинним законам США. Якщо FTC виявить, що OpenAI порушує закони про захист споживачів, компанії загрожуватиме штраф або обмеження. Раніше великі штрафи за порушення законів про захист прав споживачів отримували компанії Meta, Amazon і Twitter.

Побоювання FTC, зокрема, ґрунтуються на випадках, коли чат-бот генерує неправильну інформацію.

Наприклад, радіоведучий зі штату Джорджія Марк Волтерс подав на OpenAI до суду за наклеп, коли ChatGPT вигадав юридичні претензії до нього. У позові стверджується, що ChatGPT помилково заявив, що Уолтерс звинувачується у шахрайстві та розкраданні коштів із фонду Second Amendment Foundation. Згідно зі скаргою, таку інформацію ChatGPT видав на запитання щодо позову до фонду. Насправді Волтерс не має до нього жодного відношення.

Іншим разом ChatGPT вніс ім’я професора права Джонатана Терлі до списку юристів, звинувачених у сексуальних домаганнях. Чат-бот повідомив, що професора звинуватили у сексуальному домаганні під час навчальної поїздки на Аляску, пославшись на статтю у газеті Washington Post. Але ні поїздки, ні навіть статті у Washington Post насправді не існувало. А в харасменті насправді, звинуватили тезку професора.

FTC запросила цілий перелік інформації про те, як компанія OpenAI рекламує свою продукцію, які процедури проводить перед запуском нових моделей ChatGPT різними мовами, які дані використовує для навчання алгоритму створення текстів і як бореться з галюцинаціями своїх моделей – коли чат-бот вигадує відповідь, не знаючи точної інформації.

За останніми даними, ChatGPT використовують понад 100 млн людей у всьому світі. У червні 2023 року на сайті ChatGPT було зареєстровано 1,6 млрд відвідувань.

Як використовувати чат-бот конфіденційно та безпечно?

«Дружнє», розмовне спілкування з чат-ботами спонукає людей видавати більше інформації, ніж вони запровадили б у пошукову систему. «Людиноподібний стиль може обеззброїти користувачів», — попереджає Алі Вазірі, директор з правових питань у групі даних та конфіденційності юридичної фірми Lewis Silkin.

Щоразу, коли ви звертаєтеся за допомогою до чат-бота зі штучним інтелектом, системи ШІ створюють профіль вашої особистості. Чат-боти збирають текстову та голосову інформацію, інформацію про ваш пристрій, а також дані, які можуть розкрити ваше місцеперебування — наприклад, вашу IP-адресу. Як і пошукові системи, чат-боти збирають дані про активність у соціальних мережах, деякі з цих даних можуть включати вашу адресу електронної пошти та номер телефону.

Попри те, що компанії, що створюють ШІ ботів, стверджують, що ваші дані потрібні тільки для покращення якості послуг, дані також можуть використовувати для таргетованої реклами. І це вже відбувається. Нещодавно стало відомо, що співробітники Microsoft можуть читати розмови чат-ботів користувачів, і американська компанія оновила свою політику конфіденційності, щоб позначити в ній цей факт. Хоча Google й OpenAI обіцяють не передавати інформацію третім особам, умови політики конфіденційності дозволяють використовувати дані в рекламних цілях.

Чат-боти можуть бути корисними на роботі, але експерти радять діяти обережно, щоб не розголошувати надто багато інформації та не потрапити під дію нормативних актів, таких як оновлена версія загального регламенту ЄС із захисту даних (GDPR). Саме з урахуванням цієї компанії, включаючи JP Morgan та Amazon, заборонили або обмежили використання ChatGPT своїми співробітниками.

Ризик настільки великий, що розробники самі радять утриматися від їхнього використання. «Ми не можемо видалити інформацію з вашої історії листування», — йдеться у FAQ ChatGPT. «Будь ласка, не діліться в розмовах конфіденційною інформацією».


Як виявити шкідливі програми, електронні листи та інший шкідливий контент, створений ШІ?

У міру впровадження чат-ботів в інтернет та соціальні мережі зростає можливість стати жертвою шкідливого ПЗ або шкідливих електронних листів. Національний центр кібербезпеки Великобританії (NCSC) попередив про небезпеку чат-ботів зі штучним інтелектом, заявивши, що технологія, на якій вони працюють, може бути використана в кібератаках. Експерти кажуть, що такі сервіси, як ChatGPT, можуть бути використані для допомоги кіберзлочинцям у написанні шкідливих програм. Інші форми генеративного ШІ — штучні інтелекти, здатні створювати контент у вигляді голосу та зображень — можуть дати злочинцям можливість створювати більш реалістичні deepfake відео, імітуючи, наприклад, співробітника банку, що запитує пароль.

Обліковий запис та платіжна інформація

OpenAI зберігає ваше ім’я, контактні дані, облікові дані для входу в систему, платіжну інформацію та журнали транзакцій, які він зберігає лише в тому випадку, якщо ви реєструєте платний обліковий запис. Так само він записує ваші контактні дані у соціальних мережах та будь-яку особисту інформацію, якою ви ділитеся, якщо залишаєте коментар на своїх соціальних сторінках.

Інформація про ваш пристрій

ChatGPT автоматично отримує певну особисту інформацію з вашого пристрою та браузера. Сюди входять ваша IP-адреса, географічне положення, тип браузера, дата та час початку використання ChatGPT, а також тривалість вашого сеансу. ChatGPT також отримує ім’я вашого пристрою та операційну систему.

OpenAI використовує файли cookie для відстеження вашої активності в Інтернеті, як у вікні чату, так і на своєму веб-сайті. Він стверджує, що використовує цю інформацію для аналітики і дізнається, як ви взаємодієте з ChatGPT.

Інформація, яку ви розміщуєте у чаті

ChatGPT записує та зберігає стенограми ваших розмов. Це означає, що будь-яка інформація, яку ви вводите в чат, включаючи особисту інформацію, записується. Легко потрапити в пастку, випадково надавши ChatGPT свої особисті дані, не усвідомлюючи цього, поки не стане занадто пізно, особливо якщо ви використовуєте його для перевірки особистих чи професійних документів.

Чи записує ChatGPT ваші розмови?

Так, ChatGPT записує все, що ви вводите. Його політика конфіденційності свідчить, що коли ви використовуєте ChatGPT, він може збирати особисту інформацію з ваших повідомлень, будь-яких файлів, які ви завантажуєте, та будь-яких ваших відгуків. Це також робить ChatGPT загрозою кібербезпеки, оскільки ваша особиста інформація доступна величезній кількості людей та організацій. OpenAI заявляє у своїй політиці конфіденційності, що ділиться цими даними з:

Продавцями та постачальниками послуг.
Інші види діяльності.
Дочірніми компаніями.
юридичними особами.
Інструкторами із штучним інтелектом, які переглядають розмови.

OpenAI надає дуже розпливчасту інформацію про те, кому передаються особмсті дані і чому, він може надавати вашу особисту інформацію веб-хостингу, хмарним службам, іншим постачальникам ІТ, менеджерам служби електронної пошти та служби аналітики. OpenAI також може надсилати дані правоохоронним органам, щоб захистити інших користувачів, громадськість або себе від юридичної відповідальності.

Читати також:

Штучний інтелект лікуватиме американців замість лікарів?

Google використовує ШІ чат-бота для створення «людських» рекламних кампаній

Американська компанія охорони здоров’я CHS повідомила про витік даних майже мільйона пацієнтів

Чіпи замість COVID-паспорта: імплант коштує близько 100 євро (+ВІДЕО)

Продай своє обличчя роботу за 200 тисяч доларів: пропозиція від компанії в США


Світлина з відкритих джерел