Вышедшая научная работа от OpenAI (https://openai.com/index/why-language-models-hallucinate/) в очередной раз (схожая по духу работа была ими опубликована 24 апреля 2025 года (https://t.me/agatov_tech/3773)) говорит о том, что им не удаётся победить галлюцинации, а это ставит крест на сверхразуме. Ребята такими работами стелют себе соломки для того, чтобы когда с грохотом начнёт валиться хайп по ИИ их не придавило окончательно.
😎Что это за сверхразум, который постоянно врёт?
Во многих публикация, которые обсуждали эту новость, стали поговаривать, что модель GPT – это тупиковая ветвь развития ИИ, как пейджеры.
✅ А и, правда, сейчас ИИ
1. Врёт (галлюцинирует)
2. Очень прожорлив в ресурсах – нужно удвоить производство электроэнергии.
3. Это чёрный ящик - никто не понимает почему он приходит к тому или иному выводу.
4. Он предвзята, т.е. сильно зависит от того, кто его обучает и какие он может ставить скрытые цели.
5. И у него нет причинно-следственных связей, иными словами ИИ не понимает, что он отвечает.
❓Всё конец сказки о всемогущем ИИ?
‼️ Скорее всего да!
✅ Конец ли — это истории ИИ? Скорее всего нет.
До сегодняшнего дня мы не понимали ограничений этой технологии в полной мере. Казалось, что все шероховатости можно преодолеть, сейчас стало ясно, что уровень проблем куда как более весомый, чем представлялось раньше. И это хорошо, что мы стали это осозновать. Мы получаем более реальное представление о возможностях ИИ.
Да и нет в мире ни одной технологии, у которой не было бы ограничений, но мы ими пользуемся и достигаем эффектов. ИИ теперь просто встаёт в ряд обычных технологий. И мы осознаем, что можно делать при помощи ИИ, а что вряд ли получится в обозримом будущем.
✅ Для бизнеса это означает, что
1. ИИ не заменяет человека – можно выдохнуть, т.к. кто-то должен всё проверять за ИИ и брать на себя ответственность.
2. ИИ нужно использовать там, где он особенно хорош: создание контента, разработка многих сценариев для принятия управленческих решений, различного рода помощники, которые «ковыряются» в ваших инструкциях, базах знаний и дают пользователю информацию в удобном для него формате, помощник человека в рутинных операциях.
3. Наступает период коммерциализации тех возможностей, которые уже есть у ИИ и заканчивается время ожидания «чудес от ИИ», т.е. сейчас и закипает самая главная работа для бизнеса – зарабатывание на этой неплохой технологии денег.
Возможно, мы стоим на пороге, когда на смену модели GPT (большим языковым моделям) придёт новая математическая модель, к примеру KAN (Колмогоров-Арнольд нетворк) (https://habr.com/ru/articles/820891/), устраняющая многие проблемы GPT, но имеющая свои ограничения и тогда технология ИИ получит новый импульс в развитии, а может не произойдёт такого решительного скачка, но всё равно технология ИИ есть и нам с головой хватит уже тех возможностей, которые открыты сегодня.
Короче, история только начинается и всё самое интересное впереди!
Чуть больше узнать в доступном виде про проблемы можно на Futurism (https://futurism.com/openai-mistake-hallucinations)
********
Пригласить Бориса выступить по этой теме http://agatov.pro/
Лень читать, смотри на - YouTube https://www.youtube.com/@agatovboris или RuTube https://rutube.ru/channel/38765038/
Мой курс по ИИ для бизнеса – Курс https://magazin40.getcourse.ru/aicourse
😎Что это за сверхразум, который постоянно врёт?
Во многих публикация, которые обсуждали эту новость, стали поговаривать, что модель GPT – это тупиковая ветвь развития ИИ, как пейджеры.
✅ А и, правда, сейчас ИИ
1. Врёт (галлюцинирует)
2. Очень прожорлив в ресурсах – нужно удвоить производство электроэнергии.
3. Это чёрный ящик - никто не понимает почему он приходит к тому или иному выводу.
4. Он предвзята, т.е. сильно зависит от того, кто его обучает и какие он может ставить скрытые цели.
5. И у него нет причинно-следственных связей, иными словами ИИ не понимает, что он отвечает.
❓Всё конец сказки о всемогущем ИИ?
‼️ Скорее всего да!
✅ Конец ли — это истории ИИ? Скорее всего нет.
До сегодняшнего дня мы не понимали ограничений этой технологии в полной мере. Казалось, что все шероховатости можно преодолеть, сейчас стало ясно, что уровень проблем куда как более весомый, чем представлялось раньше. И это хорошо, что мы стали это осозновать. Мы получаем более реальное представление о возможностях ИИ.
Да и нет в мире ни одной технологии, у которой не было бы ограничений, но мы ими пользуемся и достигаем эффектов. ИИ теперь просто встаёт в ряд обычных технологий. И мы осознаем, что можно делать при помощи ИИ, а что вряд ли получится в обозримом будущем.
✅ Для бизнеса это означает, что
1. ИИ не заменяет человека – можно выдохнуть, т.к. кто-то должен всё проверять за ИИ и брать на себя ответственность.
2. ИИ нужно использовать там, где он особенно хорош: создание контента, разработка многих сценариев для принятия управленческих решений, различного рода помощники, которые «ковыряются» в ваших инструкциях, базах знаний и дают пользователю информацию в удобном для него формате, помощник человека в рутинных операциях.
3. Наступает период коммерциализации тех возможностей, которые уже есть у ИИ и заканчивается время ожидания «чудес от ИИ», т.е. сейчас и закипает самая главная работа для бизнеса – зарабатывание на этой неплохой технологии денег.
Возможно, мы стоим на пороге, когда на смену модели GPT (большим языковым моделям) придёт новая математическая модель, к примеру KAN (Колмогоров-Арнольд нетворк) (https://habr.com/ru/articles/820891/), устраняющая многие проблемы GPT, но имеющая свои ограничения и тогда технология ИИ получит новый импульс в развитии, а может не произойдёт такого решительного скачка, но всё равно технология ИИ есть и нам с головой хватит уже тех возможностей, которые открыты сегодня.
Короче, история только начинается и всё самое интересное впереди!
Чуть больше узнать в доступном виде про проблемы можно на Futurism (https://futurism.com/openai-mistake-hallucinations)
********
Пригласить Бориса выступить по этой теме http://agatov.pro/
Лень читать, смотри на - YouTube https://www.youtube.com/@agatovboris или RuTube https://rutube.ru/channel/38765038/
Мой курс по ИИ для бизнеса – Курс https://magazin40.getcourse.ru/aicourse