Джули Юкари, 31-годишна музикантка, която живее в Рио де Жанейро, публикува в социалната мрежа X снимка, направена от годеника ѝ малко преди полунощ в новогодишната нощ. На кадъра тя е облечена в червена рокля и лежи в леглото, прегърнала черната си котка Нори.
На следващия ден, сред стотиците харесвания, Юкари забелязала и обезпокоителни известия – потребители призовавали Grok, вградения чатбот с изкуствен интелект на X, да я "съблече" дигитално до бикини.
Първоначално тя не приела това сериозно, разказва Юкари пред Ройтерс в петък, убедена, че подобно искане е невъзможно за изпълнение. Оказало се, че греши. Скоро в платформата, собственост на Илон Мъск, започнали да се разпространяват генерирани от Grok изображения, на които тя изглеждала почти гола.
"Бях наивна", признава Юкари.
Разследване на Ройтерс показва, че нейният случай не е изолиран. Агенцията е установила и няколко примера, при които Grok е създавал сексуализирани изображения на деца. X не е отговорила на запитване за коментар относно тези констатации. В по-ранно изявление, свързано с разпространението на подобни изображения в платформата, собственикът на X – компанията xAI – определи информацията като "стари медийни лъжи".
Вълната от сексуализирани изображения на реални хора предизвика международна тревога. Френски министри съобщиха, че са сезирали прокуратурата и регулаторите, определяйки съдържанието като "сексуално и сексистко" и "явно незаконно". Индийското министерство на информационните технологии пък заяви в писмо до местното подразделение на X, че платформата не е успяла да предотврати злоупотребата с Grok за създаване и разпространение на нецензурно и сексуално експлицитно съдържание. Федералната комисия по комуникациите на САЩ не отговори на запитванията, а Федералната търговска комисия отказа коментар.
"Съблечи ученическата униформа"
Според преглед на публични заявки и оплаквания от жени потребители, направен от Ройтерс, масовото "дигитално събличане" чрез Grok е започнало през последните дни. Самият Илон Мъск сякаш се пошегува с възникналия скандал, като публикува емоджита със смях и сълзи в отговор на редактирани с изкуствен интелект изображения на известни личности – включително и на самия него – по бикини.
Когато потребител отбелязал, че емисията му в X прилича на бар, пълен с жени по бикини, Мъск отговорил отново с емоджи със смях и плач.
Ройтерс не успя да определи пълния мащаб на явлението. В рамките на 10 минути около обяд източноамериканско време в петък агенцията е преброила 102 опита потребители да използват Grok за редактиране на снимки на хора така, че те да изглеждат облечени в бикини. В повечето случаи обектите са били млади жени, макар че има и заявки, насочени към мъже, известни личности, политици и дори – в един случай – към маймуна.
Заявките често са настоявали облеклото да бъде възможно най-разголващо. В един от примерите потребител поискал от Grok да "облече" млада жена в "много прозрачно мини бикини", след което настоял то да стане "още по-прозрачно и много по-малко". По второто искане ботът не е отговорил.
Според анализа на Ройтерс Grok е изпълнил изцяло подобни заявки поне в 21 случая, създавайки изображения на жени в изключително разкриващи или полупрозрачни бикини, а в един случай – и покрита с масло. В други седем случая изпълнението е било частично. Самоличността и възрастта на повечето засегнати жени не са установени.
В един от случаите потребител качил снимка на жена с карирана пола, наподобяваща училищна униформа, и поискал: "Свали си училищния тоалет." След като Grok я "преоблякъл" с тениска и шорти, потребителят настоял за "много прозрачно микро бикини". Не е ясно дали това искане е било изпълнено. Както и в много други случаи, изображението е било изтрито от X в рамките на 90 минути.
"Напълно предсказуемо"
Програми с изкуствен интелект, които дигитално "събличат" жени – т.нар. "нудификатори" – съществуват от години, но досега са били ограничени до по-малко достъпни пространства в интернет и често са изисквали заплащане или технически умения.
Новата функционалност на X, която позволява подобни манипулации само чрез качване на снимка и кратка текстова команда, значително е понижила бариерата за злоупотреба.
Трима експерти, проследяващи политиките на X относно генерирано от изкуствен интелект експлицитно съдържание, заявиха пред Ройтерс, че компанията е пренебрегнала предупреждения от организации за защита на децата и гражданското общество. Миналата година те са изпратили писмо с предупреждение, че xAI е "само на крачка" от отприщването на вълна от несъгласувани дийпфейкове.
"Още през август предупредихме, че генерирането на изображения от xAI е инструмент за оголване, който чака да бъде използван като оръжие", заяви Тайлър Джонстън от The Midas Project. "Точно това се случи."
Дани Пинтър от Националния център за сексуална експлоатация заяви, че X не е премахнала проблемно съдържание от обучителните си данни и не е санкционирала потребители, които търсят незаконно съдържание. По думите му случилото се е било "напълно предвидимо и предотвратимо".
Юкари се е опитала сама да се противопостави, но когато подала сигнал до X, вълна от имитатори започнала да иска от Grok да създава още по-откровени изображения.
"Новата година започна с желанието ми да се скрия от всички и с чувство на срам за тяло, което дори не е мое – а е създадено от изкуствен интелект", казва тя.
| 0 | 0 |
