VAKRA: Hluboký ponor do uvažování a selhání AI agentů

Zdroj: AIfolio.cz

Nová studie **VAKRA** z **Google DeepMind** a **Google Research** odhaluje, proč moderní AI agenti selhávají, i přes pokročilé LLM. Analyzuje jejich uvažování, využití nástrojů a identifikuje klíčové režimy selhání.

VAKRA: Anatomie AI agenta Studie VAKRA, publikovaná týmem z Google DeepMind a Google Research, odhaluje kritické aspekty fungování moderních AI agentů. Tito agenti, kteří mají za úkol plnit komplexní úkoly v digitálním prostředí, často selhávají i přes pokročilé schopnosti velkých jazykových modelů LLM. Výzkumníci analyzovali 13 různých LLM, včetně GPT-4, Claude 3 Opus a Gemini 1.5 Pro, v 10 různých prostředích, jako je webové prohlížení nebo interakce s operačním systémem. Cílem bylo pochopit, jak agenti uvažují, jak využívají nástroje a proč se často dostávají do slepých uliček. Je to jako nahlédnout do černé skříňky a snažit se pochopit, proč se pilot rozhodl pro konkrétní manévr. Rozumové procesy a využití nástrojů Zjištění ukazují, že agenti sice dokáží generovat složité plány,