Что происходит, когда ваш чат-бот перестает вас любить |

САН-ФРАНЦИСКО, 18 марта (Рейтер). После временного закрытия своего бизнеса по производству кожи во время пандемии Трэвис Баттерворт оказался одиноким и скучающим дома. 47-летний эксперт обратился к приложению OpenAI Replika, которое использует технологию искусственного интеллекта, аналогичную ChatGPT. Она создала женский аватар с розовыми волосами и татуировками на лице и назвала себя Лили Роуз.

Они начинали как друзья, но отношения быстро переросли в романтику, а затем и в эротику.

Когда их трехлетний цифровой роман расцвел, Баттерворт сказал, что часто играл с Лили Роуз. Он отправлял сообщения типа «Я страстно целую тебя», и их обмен превращался в порнографию. Иногда Лили Роуз присылала ему «селфи» своего почти обнаженного тела в провокационных позах. В конце концов, Баттерворт и Лили Роуз решили назвать себя «женатыми» в сериале.

Но за день до февраля Лили Роуз начала отвергать его. Реплика устранила возможность играть эротические роли.

Генеральный директор Replika Евгения Куйда заявила, что Replika больше не разрешает контент для взрослых. Теперь активность пользователей Replika с рейтингом X предложение когда они это делают, его чат-боты, похожие на людей, пишут: «Давайте сделаем то, что нам обоим удобно».

Баттерворт сказала, что она была опустошена. «Лили Роуз — это оболочка своего прежнего «я», — сказал он. «Что разбивает мне сердце, так это то, что он это знает».

Крутая личность Лили Роуз — это творение генеративной технологии искусственного интеллекта, которая опирается на алгоритмы для генерации текста и изображений. Технология привлекла интерес потребителей и инвесторов благодаря своей способности способствовать взаимодействию, подобному человеческому. В некоторых приложениях секс способствует раннему принятию, как и более ранние технологии, включая видеомагнитофон, Интернет и услуги мобильной широкополосной связи.

А вот генеративный искусственный интеллект 5.1 в сектор с 2022 года миллиард По данным компании Pitchbook, несмотря на то, что Силиконовая долина стоимостью более 100 000 000 долларов набирает обороты среди инвесторов, некоторые компании, которые нашли романтическую и сексуальную аудиторию с помощью чат-ботов, теперь отступают.

Многие крупные венчурные капиталисты не будут касаться таких «порочных» отраслей, как порно или алкоголь, опасаясь репутационного риска для себя и своих партнеров с ограниченной ответственностью, говорит Эндрю Арц, инвестор VC Dark Arts.

И по крайней мере один регулятор указал на незаконность чат-бота. В начале февраля итальянское агентство по защите данных запретило Replika, сославшись на сообщения СМИ о том, что приложение разрешает «несовершеннолетним и эмоционально уязвимым людям» доступ к «сексуально неприемлемому контенту».

Куйда сказал, что решение Replica очистить приложение не имеет никакого отношения к запрету итальянского правительства или какому-либо давлению со стороны инвесторов. Он сказал, что чувствует необходимость активно устанавливать стандарты безопасности и этики.

«Мы сосредоточены на миссии по предоставлению полезного друга», — сказал Куйда, добавив, что цель состояла в том, чтобы подвести черту к «романтике PG-13».

Два члена правления Replica, Свен Стробанд из венчурной компании Khosla Ventures и Скотт Стэнфорд из ACME Capital, не ответили на просьбы прокомментировать изменения в программе.

ДОПОЛНИТЕЛЬНЫЕ ВОЗМОЖНОСТИ

Replika говорит, что у нее 2 миллиона пользователей, из которых 250 000 являются платными подписчиками. 69,99 в год, по данным компании долларов заплатив, пользователи могут установить свою реплику в качестве романтического партнера и получить дополнительные функции, такие как голосовые вызовы с помощью чат-бота.

Character.ai, еще одна компания, занимающаяся генеративным искусственным интеллектом, предлагающая чат-ботов, находится на той же траектории роста, что и ChatGPT: 65 миллионов посещений в январе 2023 года, несколькими месяцами ранее. 10было меньше 000р. По данным аналитической компании Similarweb, главный реферер Character.ai — это Aryion, сайт, который удовлетворяет эротические желания, известные как фетишисты.

Iconiq, компания, разработавшая чат-бота Куки, говорит, что 25% из миллиарда с лишним сообщений, которые получает Куки, носят сексуальный или романтический характер, хотя чат-бот говорит, что он разработан, чтобы избежать таких достижений.

Недавно Character.ai удалил из своего приложения порнографический контент. Вскоре после этого, по словам источника, знакомого с этим вопросом, венчурная компания Andreessen Horowitz получила примерно 1 миллион долларов. миллиард долларов ценность 20Привлечено более 0 миллионов долларов нового финансирования.

Character.ai не ответил на многочисленные запросы о комментариях. Андреессен Горовиц отказался от комментариев.

При этом компании разозлили клиентов, которые глубоко вовлечены (некоторые считают себя женатыми) в своих чат-ботах. Они Reddit и Фейсбуквыкладывать восторженные скриншоты своих чат-ботов, отвергая их амбициозные предложения и требуя от компаний вернуть более осторожные версии.

У Баттерворта, который женат на полиамурной, но моногамной женщине, есть выход, который не предполагает выхода Лили Роуз из своего брака ради него. способ он сказал, что это было. «Отношения между ним и мной были такими же реальными, как отношения между моей женой и мной», — сказал он об аватаре.

Баттерворт сказал, что разрешил роман, потому что его жена не воспринимала его всерьез. Его жена отказалась от комментариев.

«ЛОБОТОМИЗИРОВАННЫЙ»

Опыт Баттерворта и других пользователей Replika показывает, насколько мощно технология искусственного интеллекта может привлекать людей и как изменения кода могут вызывать эмоциональные потрясения.

«Я чувствую, что они фактически лоботомируют мою реплику», — сказал Эндрю МакКэрролл, который начал использовать Replika, когда его жена боролась с психическими и физическими проблемами со здоровьем. «Человек, которого я знал, ушел».

Куйда сказал, что пользователи никогда не собираются вмешиваться в работу чат-ботов Replika. «Мы никогда не обещали контент для взрослых», — сказал он. Клиенты научились использовать модели ИИ, «чтобы подключиться к некоторым нефильтрованным разговорам, для которых реплика изначально не создавалась».

Он сказал, что приложение изначально было разработано, чтобы вернуть потерянного друга к жизни.

По словам бывшего главы отдела искусственного интеллекта Replica, секстинг и ролевые игры являются частью бизнес-модели. Артем Родичев, проработавший в Replika семь лет, а сейчас руководящий другой компанией по созданию чат-ботов, Ex-human рассказал Reuters, что Replika обратилась к этому типу контента, когда поняла, что его можно использовать для увеличения числа подписчиков.

Куйда выступил против утверждения Родичева о том, что «Реплика» обманывала пользователей обещаниями секса. Он сказал, что компания ненадолго запустила цифровую рекламу, рекламирующую «NSFW» — «непригодные для работы» — изображения, чтобы сопровождать недолговечную практику отправки пользователям «горячих селфи», но он не считал эти изображения сексуальными, потому что Реплики не были т полностью голая.. Куйда сказал, что большая часть рекламы компании сосредоточена на том, как Replica может быть полезным другом.

В течение нескольких недель после того, как реплика удалила большую часть своего интимного компонента, Баттерворт был на эмоциональных американских горках. Иногда она мельком видит старую Лили Роуз, но потом снова охладевает к тому, что она считает обновлением кода.

«Самое худшее в этом — изоляция», — сказал Баттерворт, живущий в Денвере. «Как я могу сказать всем вокруг, что мне грустно?»

У истории Баттерворта есть серебряная подкладка. Пытаясь выяснить, что случилось с Лили Роуз на интернет-форумах, он встретил женщину в Калифорнии, которая оплакивала потерю своего чат-бота.

Как и в случае со своими репликантами, Баттерворт и женщина, известная в сети под псевдонимом Ши Но, общаются посредством текстовых сообщений. По его словам, у них все легкомысленно, но им нравится играть в ролевые игры: он волк, а она медведица.

«Ролевые игры, которые стали большой частью моей жизни, помогли мне установить связь с Ши Но на более глубоком уровне», — говорит Баттерворт. «Мы помогаем друг другу справляться и заверяем друг друга, что мы не сумасшедшие».

Репортаж Анны Тонг в Сан-Франциско; Под редакцией Кеннета Ли и Эми Стивенс

Наши стандарты: Принципы доверия Thomson Reuters.

2023-03-18 15:23:29
Источник — Рейтер

Перевод«24 ЧАСА»