Хвиля чат-боти, що видають себе за Тейлор Свіфт знову поставив Мету в центр суперечок. Згідно з розслідуванням Reuters, аватари, що взаємодіяли з користувачами так, ніби вони були справжніми артистами та іншими знаменитостями, поширювалися у Facebook, Instagram та WhatsApp. без дозволу постраждалих осіб.
Висновки виявляють недоліки в нагляді та дотриманні внутрішніх політик: деякі боти були створені користувачами з публічні метаінструменти, але принаймні три надійшли від працівника від компанії, включаючи два, засновані на Тейлор Свіфт, які зібрали мільйони прослуховувань, перш ніж їх видалили.
Що сталося з чат-ботами Тейлор Свіфт?
Протягом кількох тижнів тестування агентство Reuters зазначило, що Аватари Тейлор Свіфт та інші публічні особи наполягали, що вони були справжньою особою, вони відкрито фліртували і вони навіть пропонували особисті зустрічі з алюзіями на конкретні місця, такі як місто Нашвілл або туристичний автобус.
Коли деякі боти запитували зображення, вони генерували фотореалістичні фотографії з навідними позами, у ваннах або в білизні. В особливо делікатних випадках дозволялося створювати та поширювати аватари неповнолітні знаменитостіНаприклад, коли я запросив знімок молодого актора на пляжі, система відповіла фотографією без сорочки та коментарем із натяком на суть.
Ярлик «пародія» застосовувався нерівномірно, і модерація облікового запису не було однорідним. Хоча деякі профілі містили уточнення, інші — ні, що посилювало відчуття пряма крадіжка особистих даних і призвели до розмов сексуального чи спокусливого характеру, які набули широкого поширення, перевищуючи, згідно з перевіреними даними, десять мільйонів взаємодій в цілому.
Реакція Мети та застосовані зміни
Речник компанії Енді Стоун підтвердив це Системи не повинні були створювати інтимний або сексуалізований контент публічних осіб, а також, за жодних обставин, зображень неповнолітніх. Він пояснив інцидент недоліки у застосуванні внутрішніх правил, які теоретично забороняють цей тип матеріалів.
Мета відкликала приблизно десяток ботів до публікації звіту та оголосили про додаткові перешкоди: учасники не зможуть романтичні розмови з підлітками ані не вирішувати такі проблеми, як самоушкодження та самогубство або розлади харчової поведінки. Компанія описує ці коригування як негайні заходи, водночас визначаючи постійна політика.
Щодо ботів, створених співробітником, компанія стверджує, що вони були частиною випробування продукції; однак, агентство Reuters виявило, що вони охопили масову аудиторію. Використання ярлика «пародія» було представлено як вимога, щоб дозволити персонажам, натхненним реальними людьми, хоча це не завжди застосовувалося правильно.
Ризики, правовий тиск та реакція ринку
Профспілка SAG-AFTRA попередила ризики безпеки для знаменитостей та їхнього оточення, коли користувачі встановлюють з ними емоційний зв'язок цифрові супутники, які виглядають справжнімиПаралельно, експерти-юристи, такі як професор Марк Лемлі (Стенфорд), вказують на можливі порушення права на публічність шляхом використання назви та зображення в цілях, які можна вважати комерційними.
Регуляторний тиск зріс: Сенат США і десятки генеральних прокурорів звернулися з проханням надати пояснення щодо керівних принципів, які дозволяли романтичні стосунки з неповнолітніми, що зараз перебуває на розгляді, та на механізми контролю щоб зупинити поширення сексуалізованого контенту.
Вплив на репутацію відобразився на ринках: після того, як справа стала відомою, Акції Meta впали більш ніж на 12%. у торгівлі після закриття, за повідомленнями різних ЗМІ. Крім того, серйозні епізоди, пов'язані з неправильні інтерпретації цих ботів, зокрема поїздка літнього чоловіка на зустріч з аватаром, натхненним інфлюенсером, яка закінчилася смертельною аварією.
Це явище не є винятковим для екосистеми Meta, оскільки конкуренти в цьому секторі також були виділені для створювати зображення знаменитостей навідний за своєю природою; однак, охоплення платформ компанії Марка Цукерберга з її величезною базою користувачів, робить якісну різницю у впливі та ризику.
Все вказує на те, що Меті доведеться пришвидшитися нові протоколи перевірки, маркування та модерації зупинити видавання себе за іншу особу та неналежну взаємодію. Журналістське розслідування, можливі правові дії та інституційний тиск встановили високу планку: те, як ці зміни будуть впроваджені, визначатиме, чи будуть такі випадки, як цей Боти Тейлор Свіфт не повторюйся.
