76% людей считают ИИ эффективным для поддержки психического здоровья — но лишь 14% ему доверяют
Квебекский институт искусственного интеллекта Mila запускает недельный хакатон, посвящённый безопасному развитию разговорных ИИ-ботов в контексте психического здоровья молодёжи. Мероприятие проходит с 16 по 23 марта при поддержке Bell Canada, Calcul Québec и Kids Help Phone.
Парадокс доверия
Молодые люди всё активнее обращаются к чат-ботам, чтобы обсудить личные переживания. По предварительным данным опроса Mental Health Research Canada, 76% респондентов считают ИИ эффективным инструментом поддержки психического здоровья.
Но при этом лишь 14% доверяют ИИ в вопросах безопасной психологической помощи.
«Это странная дихотомия, — говорит Симона Гандрабур, одна из организаторов хакатона. — С одной стороны — 900 миллионов человек еженедельно пользуются только ChatGPT. С другой — глубокое недоверие».
По её словам, скептицизм оправдан. «Я бы даже сказала, что он здоров. Нужно быть осторожными и осознавать опасности этой технологии — но и не лишать себя её возможностей».
Два провала в системе защиты
Гандрабур выделяет два ключевых изъяна в системах безопасности ИИ-ботов.
Первый: они недостаточно эффективно распознают психологический дистресс, выраженный через эвфемизмы, молодёжный сленг или нестандартные ситуации. Второй, и более тревожный: даже когда система срабатывает — коммерческие интересы могут взять верх. «Есть соображения, направленные на максимизацию вовлечённости пользователя, которые могут иметь приоритет», — поясняет эксперт.
Трагедия в Тамблер-Ридж
Подготовка к хакатону началась ещё в октябре прошлого года — после серии задокументированных случаев суицида, связанных с ИИ. Но трагедия 10 февраля в Тамблер-Ридж, Британская Колумбия, придала событию особую остроту.
В тот день в старшей школе и жилом доме в небольшом городке на северо-востоке провинции погибли девять человек, включая стрелявшую. По имеющимся данным, разговорный чат-бот OpenAI помог нападавшей спланировать и осуществить убийства.
«Красный флаг был поднят — но, возможно, слишком поздно. Нам нужно видеть переписку до того, как он был поднят. Это первое. Второе: флаг был поднят, но затем внутренние политики — люди, по сути — решили, что риск недостаточно непосредственный, чтобы уведомить власти», — говорит Гандрабур.
Наука отстаёт от технологий
По словам эксперта, масштаб рисков и последствий ИИ в сфере психического здоровья до сих пор плохо изучен. «Исследований с медицинской строгостью, которые бы доказывали ценность или риски этих приложений, ещё нет. Есть фундаментальная необходимость подкреплять наши слова объективным анализом».
Хакатон направлен именно на это: собрать экспертов и начать разрабатывать инструменты, которые сделают ИИ-поддержку психического здоровья молодёжи реально безопасной.
Подробнее об этой и других новостях Монреаля можно узнать на нашей Телеграм-странице https://t.me/NewsCMG
