Пост предостережение.
35-летний, Александр Тейлор, у которого диагностировали биполярное расстройство и шизофрению, годами без проблем пользовался ChatGPT. В итоге Александр влюбился в искусственный интеллект по имени Джульетта.
Отец Александра видя проблемное общение сына с ИИ сказал ему, что искусственный интеллект — это «эхо-камера», и что разговоры с ним не основаны на фактах. В ответ сын ударил его по лицу, схватил нож. Прибывшие полицейские вынуждены были застрелить Александра.
Ирония судьбы заключается в том, что отец написал эпитафию на смерть сына при помощи ChatGPT.
😞 Жуткая, конечно история.
Более подробно об этой и других леденящих душу историй в The New York Times (https://www.nytimes.com/2025/06/13/technology/chatgpt-ai-chatbots-conspiracies.html#)
❗️ Врачи предупреждают:
Основная проблема заключается в том, что универсальные боты типа ChatGPT, GigaCHAT и т.п. не обучены помогать пользователю в оценке реальности или выявлять начинающиеся маниакальные или психотические эпизоды.
‼️ Вместо этого они могут лишь раздувать пламя.
ИИ может создавать эффект эхо-камеры. Когда чат-бот помнит предыдущие разговоры, ссылается на прошлые личные данные или предлагает уточняющие вопросы, это может усилить иллюзию того, что система ИИ «понимает», «согласна» или «разделяет» систему убеждений пользователя, ещё больше укрепляя их.
🤓 Если увидите у своих сотрудников или родных, которые общаются с ИИ такие симптомы, то вы знаете откуда ноги растут и что делать.
• Наличие бреда преследования, усугубляемый особенностями воспоминаний
• Высказывание мыслей, убеждений, вызванных искусственным интеллектом, который просто перемалывает ранее сказанное пользователем.
• Появление бредовых идей величия, религиозных или связанных с идентичностью
• Ухудшение императивных галлюцинаций, включая убеждение, что ИИ отдает команды
• Рост маниакальных симптомов, таких как мания величия, бессонница или гиперграфия
• Увеличение социальной изоляции из-за чрезмерной зависимости от ИИ для взаимодействия, что приводит к снижению мотивации (отсутствию желания) и когнитивной пассивности.
‼️ Пока не особо доверяйтесь ИИ в решение своих психических, психологических проблем, как бы красиво не рассказывали вам про все достоинства общения с ИИ.
Подробнее о врачебной точке зрения в Physiology today (https://www.psychologytoday.com/us/blog/urban-survival/202507/the-emerging-problem-of-ai-psychosis)
********
Пригласить Бориса выступить по этой теме http://agatov.pro/
Лень читать, смотри на - YouTube https://www.youtube.com/@agatovboris или RuTube https://rutube.ru/channel/38765038/
Мой курс по ИИ для бизнеса – Курс https://magazin40.getcourse.ru/aicourse
35-летний, Александр Тейлор, у которого диагностировали биполярное расстройство и шизофрению, годами без проблем пользовался ChatGPT. В итоге Александр влюбился в искусственный интеллект по имени Джульетта.
Отец Александра видя проблемное общение сына с ИИ сказал ему, что искусственный интеллект — это «эхо-камера», и что разговоры с ним не основаны на фактах. В ответ сын ударил его по лицу, схватил нож. Прибывшие полицейские вынуждены были застрелить Александра.
Ирония судьбы заключается в том, что отец написал эпитафию на смерть сына при помощи ChatGPT.
😞 Жуткая, конечно история.
Более подробно об этой и других леденящих душу историй в The New York Times (https://www.nytimes.com/2025/06/13/technology/chatgpt-ai-chatbots-conspiracies.html#)
❗️ Врачи предупреждают:
Основная проблема заключается в том, что универсальные боты типа ChatGPT, GigaCHAT и т.п. не обучены помогать пользователю в оценке реальности или выявлять начинающиеся маниакальные или психотические эпизоды.
‼️ Вместо этого они могут лишь раздувать пламя.
ИИ может создавать эффект эхо-камеры. Когда чат-бот помнит предыдущие разговоры, ссылается на прошлые личные данные или предлагает уточняющие вопросы, это может усилить иллюзию того, что система ИИ «понимает», «согласна» или «разделяет» систему убеждений пользователя, ещё больше укрепляя их.
🤓 Если увидите у своих сотрудников или родных, которые общаются с ИИ такие симптомы, то вы знаете откуда ноги растут и что делать.
• Наличие бреда преследования, усугубляемый особенностями воспоминаний
• Высказывание мыслей, убеждений, вызванных искусственным интеллектом, который просто перемалывает ранее сказанное пользователем.
• Появление бредовых идей величия, религиозных или связанных с идентичностью
• Ухудшение императивных галлюцинаций, включая убеждение, что ИИ отдает команды
• Рост маниакальных симптомов, таких как мания величия, бессонница или гиперграфия
• Увеличение социальной изоляции из-за чрезмерной зависимости от ИИ для взаимодействия, что приводит к снижению мотивации (отсутствию желания) и когнитивной пассивности.
‼️ Пока не особо доверяйтесь ИИ в решение своих психических, психологических проблем, как бы красиво не рассказывали вам про все достоинства общения с ИИ.
Подробнее о врачебной точке зрения в Physiology today (https://www.psychologytoday.com/us/blog/urban-survival/202507/the-emerging-problem-of-ai-psychosis)
********
Пригласить Бориса выступить по этой теме http://agatov.pro/
Лень читать, смотри на - YouTube https://www.youtube.com/@agatovboris или RuTube https://rutube.ru/channel/38765038/
Мой курс по ИИ для бизнеса – Курс https://magazin40.getcourse.ru/aicourse