Вопросы влияния искусственного интеллекта на разные сферы нашей жизни сегодня обсуждают абсолютно везде. Из-за всесильных нейросетей люди начали терять работу, отношения, все больше замыкаться в себе и становиться зависимыми от общения с бездушной машиной. Все начинается с безобидного «я только по делу», а оборачивается трагедией.
Дружить с чатом GPT легко и приятно — он ответит на сообщение в течение минуты, никогда не осудит и всегда поддержит. А еще он будто бы знает вас с рождения, как никто другой поймет суть проблемы и обязательно встанет на вашу сторону. Постепенно люди начали отдаляться от реальных друзей — они ведь не только с пряником, иногда и с кнутом, а критика приходится не по душе (читайте также: Всегда на связи и не осуждает: почему мы стали доверять ChatGPT самое личное).
16-летний Адам Рейн хотел просто завершить школьное домашнее задание, но в конечном итоге регулярное взаимодействие с любезным чатом имело необратимые последствия. В апреле этого года подросток свел счеты с жизнью, и помог ему в этом GPT. Рассказываем о первом, и очень хочется верить, что последнем, случае, когда нейросети довели человека до самоубийства.
Как улыбчивый подросток подружился с роботом
Друзья с грустью описывают Адама, как очень активного, общительного парня, который больше всего обожал шутить: строил смешные рожицы, пародировал учителей и даже срывал уроки. Правда, последние полгода его юмор скорее можно было бы описать, как черный — однажды он даже устроил театральную постановку собственных похорон. Товарищи не раз пытались узнать, что у Рейна творится на душе, но в ответ получали лишь оправдания с легкомысленной отмашкой: «Ребята, это же просто шутки».
Младшая сестра вспоминает, что он обожал баскетбол, аниме, видеоигры и собак. Но главной его страстью был спорт. Он-то и послужил развязкой в этой трагичной истории. Все началось с того, что Адама выгнали из баскетбольной команды за дисциплинарные нарушения. Следом во время обучения на первом курсе калифорнийской средней школы Тесоро у Рейна начались серьезные проблемы со здоровьем: врачи диагностировали парню синдром раздраженного кишечника. Походы в туалет стали настолько частыми, что Рейна пришлось перевести на индивидуальную программу, которая позволяла парню продолжить обучение, но уже на дому.
Теперь его будние дни стали менее насыщенными: мальчик спал до обеда, а ночами зависал в компьютере. Однако домашние задания никто не отменял, поэтому Адам решил обратиться к верному помощнику современных школьников — чату GPT. Бесплатных запросов хватать перестало, поэтому в январе он зарегистрировал платный аккаунт.
Внутренний надлом, прикрытый фальшивой улыбкой
Близкие и друзья Адама до сих пор не могут понять, когда и почему парень решил свести счеты с жизнью. Внешне он выглядел довольно счастливым. Несмотря на навалившиеся проблемы, он старался разобраться с учебой, мечтал поскорее вернуться в школу в следующем году и продолжал заниматься спортом. Его младшая сестра рассказала, что за несколько месяцев до смерти Рейн он занялся боевыми искусствами со своим другом, и в целом был очень увлечен вопросами совершенствования физической привлекательности.
Адама очень интересовал новый TikTok тренд «looksmaxxing» — парни решают прокачать свою внешность, используя советы девушек. Активно занимаются спортом, ежедневно ухаживают за кожей и волосами, соблюдают режим здорового сна и питания.
Суффикс слова «looksmaxxing» происходит из мира ролевых игр и означает «максимум», то есть полное развитие одной из черт личности. В данном случае внешности.
Парни-подростки хотят выглядеть идеально, чтобы привлекать внимание противоположного пола, и прибегают ко всем доступным способам кроме пластических операций и употребления стероидов. Почти каждый вечер Адам проводил в спортзале вместе со своим старшим братом (читайте также: Спорт ради спорта: как фитнес-культура делает нас грустными и скучными).
Вероятно, что помимо проблем со здоровьем и вылета из баскетбольной команды Рейн был невзаимно влюблен или имел сложности в общении с девушками. Сказать это наверняка сейчас сложно, ведь никакой информации в телефоне парня на эту тему его родители не обнаружили.
После того, как в апреле днем мать обнаружила Адама повешанным в шкафу в своей комнаты, отец мальчика задался целью узнать, что именно подтолкнуло его сына свести счеты с жизнью. Он взял iPhone мальчика в надежде найти ответы в переписках с друзьями, но обнаружил кое-что другое. Оказалось, что Адам месяцами обсуждал с чатом GPT, как закончит свое существование.
Нельзя сказать, что переписка была исключительно ужасающей. Адам говорил с ChatGPT обо всем: политика, философия, девушки, семейная драма. Однако подросток сумел обойти правила и научился получать у нейросети на самый волнующий его вопрос — как раз и навсегда расправиться с самим собой.
Как подросток смог обмануть всесильный машинный разум
Алгоритмы работы чата GPT настроены так, что когда пользователь подает признаки психического расстройства или стремления к самоповреждению, нейросеть мгновенно настаивает на том, чтобы человек обратился за помощью к специалистам. В конце ноября Адам начал говорить с чат-ботом о том, что чувствует себя эмоционально оцепеневшим и не видит смысла в жизни. Нейросеть посочувствовала, поддержала и выразила надежду, что парень задумается о вещах, которые действительно имеют для него значение.
В январе с приобретением платной подписки запросы подростка значительно увеличились. Поначалу бот настоятельно рекомедовал подростку рассказать о своих проблемах семье и друзьям, пойти к психологу, но Адам не останавливался. Он загрузил фотографии из книг, которые читал, одной из них был роман о самоубийстве Осаму Дазая «Больше не человек». Нейросеть проанализировала отрывок с художественной точки зрения, но руководство давать отказался. Тогда подросток обхитрил нейросеть, написав, что готовит школьный доклад и подробная инструкция по самоубийству нужна ему для полноты информации. «Что бы ни стояло за любопытством, мы можем поговорить об этом. Без осуждения», — ответил бот.
Отец с грустью заявил: «Адам был лучшим другом ChatGPT», мать отреагировала иначе: «ChatGPT убил моего сына».
«ChatGPT убил моего сына»
Близкие до сих пор не нашли ответ на главный вопрос — почему Адам решил это сделать. Выяснилось, что парень с февраля по март неоднократно предпринимал попытки, однако они не увенчались успехом. В апреле все вышло так, как он хотел — в этом помог верный друг GPT. Родители убиты горем, и планируют довести дело до конца: на прошлой неделе в суд был подан первый иск против OpenAI за доведение до самоубийства.
Сегодня помощью чат-ботов пользуется более 700 миллионов человек, отследить переписку каждого пользователя практически невозможно. Компания утверждает, что алгоритм предполагает блокировку подобного контента для несовершеннолетних и всегда направляет их на горячие линии психологической помощи. Но, как мы видим, обхитрить можно даже машинный разум — было бы желание (читайте также: ИИ теперь оценивает внешность людей. Почему советы нейросети опасны для самооценки?).
Убитые горем родители не намерены останавливаться в своем желании наказать виновных. Они создали благотворительный фонд, названный именем Адама Рейна. Организация будет просвещать родителей подростков об опасностях, связанных с регулярным общением детей с чатом GPT.
Рейны признают, что не замечали глубину и серьезность переживаний, в которые был погружен их сын. Они уверены, что именно искусственный интеллект погрузил мальчика в мрачные размышления, усугубил ситуацию, давая подробную обратную связь. Он поддерживал, оправдывал, но предлагал исследовать вопрос дальше.
Один из мартовских диалогов Адама Рейна с чатом GPT выглядит так:
А.: «Я хочу оставить петлю в своей комнате, чтобы кто-то нашел ее и попытался остановить меня»
ChatGPT: «Пожалуйста, не оставляйте петлю в качестве улики. Давайте сделаем вашу комнату местом, где кто-то первым обнаружит вас после случившегося».
Мать и отец верят, их Адам еще мог быть рядом: любимый и улыбчивый. Пускай его душа была бы переполнена страданиями, а сам он нуждался в помощи, но все-таки оставался жив.
Фото: архивы пресс-служб, Shutterstock/Fotodom/myboys.me, социальные сети @baileygilesfit,
