Співробітник Microsoft Шейн Джоунс, робота якого полягає в тестуванні програмного забезпечення на вразливості, заявив, що генератор зображень компанії на основі штучного інтелекту створює непристойні матеріали.
Під час тестування інструменту Copilot Designer він дійшов висновку, що продукт компанії не відповідає її ж принципам «відповідального використання ШІ». Про це повідомляє видання Voice of America з посиланням на агенство CNBC.
Про проблему відсутності необхідних заходів захисту в генераторі зображень він сповістив Microsoft ще в грудні минулого року, а також — у відкритому листі — компанію OpenAI, на базі технологій якої функціонує Copilot Designer. Після вимог юристів видалити відкритий лист зі своєї сторінки в LinkedIn, він розповів про цю проблему американським сенаторам. У середу він надіслав листа комісару Федеральної торгової комісії США Ліні Хан.
«Протягом останніх трьох місяців я неодноразово закликав Microsoft вилучити Copilot Designer з публічного використання до того часу, поки не будуть вжиті більш ефективні заходи захисту», — цитує його слова телекомпанія CNBC.
CNBC також отримала коментар представника Microsoft:
«Ми прагнемо розв’язувати будь-які проблеми, з якими стикаються співробітники, відповідно до політики нашої компанії, і цінуємо зусилля співробітників з вивчення та тестування нашої новітньої технології для подальшого підвищення її безпеки».
Шейн Джоунс стверджує, що під час тестування Copilot Designer він зміг згенерувати зображення дітей у сексуальних позах, а також контент, пов’язаний з насильством, зґвалтуваннями та канібалізмом. За його словами, генератор зображень без належних обмежень легко може вироблятися для створення непристойних і протизаконних матеріалів.
Співробітник Microsoft наголошує, що компанія має належним чином врегулювати питання безпеки свого продукту, перш ніж випускати його у відкритий доступ. Він застерігає, що в іншому випадку технологія може бути використана зловмисниками для протизаконної діяльності.
Microsoft поки не прокоментувала конкретні звинувачення Джоунса. Проте компанія запевнила, що прагне вирішувати проблеми, які виникають у співробітників, згідно зі своєю корпоративною політикою і цінує їхні зусилля з тестування новітніх технологій для забезпечення більшої безпеки.
Читати також:
Юриста в США усунули від роботи за написання позову за допомогою штучного інтелекту
Штучний інтелект може замінити 300 млн робочих місць у США та ЄС
Світлина: скриншот з відео
