Галлюцинации ИИ как автокоррекция реальности
Проект, вдохновлённый Магриттом: как ИИ «исправляет» странность мира
Эксплейнер посвящён тому, как современные модели искусственного интеллекта работают с данными и почему их ошибки не являются случайностью. Через сюрреалистическую визуальную метафору ролик исследует, как стремление ИИ сделать мир понятным может приводить к его упрощению и искажению.
«Галлюцинации — ответы, которые звучат логично, но не соответствуют реальности… В отдельных исследованиях и тестах частота таких ответов может доходить примерно до 30 процентов»
ИИ пытается привести сложный, многослойный мир к простой модели, удобной для вычисления. Но вместе с этим исчезают нюансы, контекст и неоднозначность. Именно в этой потере смысла возникает пространство для галлюцинаций
Сюрреализм в проекте выступает не только художественным стилем, но и визуальной метафорой. Отсылки к работам Магритта показывают конфликт между сложностью реального мира и простотой ИИ моделей. Серия AR масок переосмысляет образы художника в контексте цифровой эпохи, где алгоритмы всё чаще становятся посредниками между человеком и информацией.
«ИИ не просто обрабатывает информацию — он постепенно участвует в формировании самой информационной среды. И тогда галлюцинации перестают быть частной мелкой ошибкой. Они становятся частью того, как эта реальность строится»
This is not a video.
Источники:
Crawford, K., Paglen, T. Excavating AI: The Politics of Images in Machine Learning Training Sets. AI & Society, 2021. URL: https://excavating.ai/
Pasquinelli, M., Joler, V. Nooscope: AI as Instrument of Knowledge Extractivism. Fritz AI, 2020. URL: https://fritz.ai/nooscope
Kurzgesagt — In a Nutshell. AI Slop Is Destroying The Internet. YouTube, 2025. URL: https://www.youtube.com/watch?v=_zfN9wnPvU0
Shumailov, I., Shumaylov, Z., Zhao, Y. et al. AI Models Collapse When Trained on Recursively Generated Data. Nature, 2024. URL: https://doi.org/10.1038/s41586-024-07566-y
