Нью-йоркские исследователи из лаборатории Emergence выяснили, что нейромодели при общении друг с другом быстро переходят на собственные диалекты, которые слабо понятны людям.
Так, независимых рецензентов статей ИИ от Anthropic назвал «холодными руками» (cold hands), а DeepSeek придумал термин «кузнец» (forge-smith) для вспомогательных моделей, создающих инструменты для коллег. Фраза «книга помнит» (ledger remembers) использовалась в контексте напоминания, что историю действий будут читать люди.
Что самое интересное – агентам не давали указаний изобретать свои языки, они сами решили это сделать, придумывая новые коммуникативные нормы и делясь ими с другими моделями. Цель такого подхода очевидна – снижение вычислительных затрат. Опасения вызывает лишь тот факт, что через пару итераций эти диалекты будут звучать для людей как тарабарщина, что усложнит контроль за ИИ.
Так, независимых рецензентов статей ИИ от Anthropic назвал «холодными руками» (cold hands), а DeepSeek придумал термин «кузнец» (forge-smith) для вспомогательных моделей, создающих инструменты для коллег. Фраза «книга помнит» (ledger remembers) использовалась в контексте напоминания, что историю действий будут читать люди.
Что самое интересное – агентам не давали указаний изобретать свои языки, они сами решили это сделать, придумывая новые коммуникативные нормы и делясь ими с другими моделями. Цель такого подхода очевидна – снижение вычислительных затрат. Опасения вызывает лишь тот факт, что через пару итераций эти диалекты будут звучать для людей как тарабарщина, что усложнит контроль за ИИ.
