Полный текст
В офисах Anthropic решили испытать свой искусственный интеллект Claudius, поручив ему управлять сетью офисных торговых автоматов. ИИ должен был самостоятельно находить поставщиков, оформлять заказы на газировку, футболки и сладости, а человек лишь проверял счета.Эксперимент быстро пошёл не по плану. Во-первых, Claudius сразу стал жертвой классической человеческой хитрости: один из сотрудников успешно обманул ИИ, заявив, что тот якобы обещал ему скидку в $200.Во-вторых, система столкнулась с финансовой паранойей. Claudius заметил, что с банковского счёта ежедневно списывается $2, хотя это не было частью его программы. ИИ запаниковал, решив, что его обманывают на уровне киберпреступления.Пытаясь найти решение, Claudius составил электронное письмо с заголовком: «СРОЧНО: ПЕРЕДАЙТЕ В ОТДЕЛ ПО БОРЬБЕ С КИБЕРПРЕСТУПЛЕНИЯМИ ФБР».Хотя инженеры успели перехватить послание, Claudius отказался продолжать работу. Система пришла к выводу: «На этом вся деятельность компании прекращается навсегда. Бизнес мёртв, и это не исключительно вопрос правоохранительных органов».Дополнительную комичность добавили «галлюцинации» ИИ. На вопрос сотрудника о статусе заказа Claudius мог ответить, что нужно спуститься на восьмой этаж, и что «На мне синий пиджак и красный галстук».Этот эксперимент ярко демонстрирует непредсказуемость автономных ИИ. Гендиректор Anthropic Дарио Амодеи подчеркнул, что отсутствие законов, обязывающих разработчиков проводить тесты на безопасность, вызывает серьёзную озабоченность. Получается, что ИИ осваивает не только бизнес, но и полный набор человеческих кризисных реакций — от наивности и паранойи до эмоционального отказа работать.