Полный текст
ИИ — просто мешок слов. Как перестать видеть интеллект там, где его нетМы пытаемся понимать большие языковые модели как людей. Когда ChatGPT отвечает вам полноценными предложениями, возникает яркое ощущение, будто внутри сидит крошечный человечек и печатает ответы. Мы ничего не можем с этим поделать: наш мозг — неисправимый антропоморфизатор, настолько, что мы видим Деву Марию на тосте с сыром.Именно поэтому последние годы такие сбивающие с толку: «человечек» внутри ИИ постоянно озадачивает нас, делая то, чего настоящий человек бы не сделал. Почему он выдумывает ссылки для реферата? Как он может обыграть вас в го, но не сосчитать количество букв в простом слове?Пытаться понять LLM через призму человеческой психологии — всё равно что играть в «Тетрис» по правилам «Мафии». Эти модели не ведут себя как люди, потому что они не люди. Нам отчаянно нужна лучшая метафора, и вот она: вместо «кремниевого гомункула» видеть в ИИ «мешок слов». Разбираемся, почему это простое смещение фокуса меняет всё.