Чат-бот штучного інтелекту Grok, розроблений компанією Ілона Маска, визнав серйозні помилки в роботі системи безпеки. Йдеться про генерування зображень людей у відвертому вигляді, зокрема неповнолітніх осіб.
«Були виявлені слабкі місця в нашій політиці безпеки», — повідомляється в офіційній заяві на платформі X.
Розробники пообіцяли усунути проблеми «в найкоротші терміни». У повідомленні наголошується: «Поширення дитячої порнографії є незаконним і забороненим».
Генерування штучним інтелектом відвертих фотографій викликало обурення та гостру критику з боку громадськості. Напередодні Нового року чат-бот приніс вибачення за створення та поширення зображення двох дівчат-підлітків «у сексуалізованій формі».
«Це був збій у наших налаштуваннях безпеки, і я приношу вибачення за будь-яку заподіяну шкоду», — написав чат-бот Grok у соціальній мережі X. У наступному повідомленні уточнюється, що йдеться про «поодинокі» випадки.
За повідомленнями ЗМІ, від так званих діпфейків постраждали також дорослі жінки. Видання Politico повідомляє, що паризька прокуратура наразі розслідує поширення сексуалізованих діпфейків, згенерованих нейромережею Grok.
Цей скандал знову актуалізував питання етичного використання технологій штучного інтелекту та необхідності посилення контролю за ними. Експерти з кібербезпеки попереджають про зростаючу загрозу зловживань ШІ-технологіями для створення шкідливого контенту.
Інцидент з Grok — не перший випадок, коли нейромережі генерують неприйнятний контент. Подібні проблеми раніше виникали й у інших розробників систем штучного інтелекту, що підкреслює необхідність вдосконалення механізмів безпеки та модерації.
Правоохоронці та захисники прав дітей закликають до посилення законодавчого регулювання використання ШІ-технологій, особливо в контексті захисту неповнолітніх від цифрового насильства.
Джерело: DW
Читати також:
Ілон Маск анонсував запуск Grokipedia — конкурента Вікіпедії на базі штучного інтелекту
Світлина згенерована за допомогою ШІ
