Kwestia tego, w jaki sposób agent AI podejmuje kolejne decyzje, dotyczy samego serca jego architektury. U fundamentu leży tak zwana pętla percepcja–planowanie–działanie, w której program najpierw rejestruje informacje z otoczenia, następnie analizuje dostępne możliwości, a wreszcie wykonuje wybraną akcję. Cały ten obieg powtarza się wielokrotnie, aż do osiągnięcia zamierzonego efektu.
Trzonem tego procesu jest model językowy, który pełni rolę własnego głosu doradczego agenta. To on interpretuje polecenia użytkownika, rozbija złożone zadanie na mniejsze podzadania i sugeruje kolejność ich realizacji. Środowisko modelu stanowią dodatkowe narzędzia – wyszukiwarki, kalkulatory, interfejsy API – które agent uruchamia wtedy, gdy wymaga precyzyjnych danych spoza swojej wiedzy treningowej.
Ciekawym elementem architektury jest tak zwana pamięć operacyjna, w której agent trzyma kontekst bieżącego zadania. Dzięki niej nie gubi nici nawet wtedy, gdy proces rozkłada się na kilka etapów i potrzebuje przeskakiwania między różnymi źródłami informacji. To właśnie ta zdolność wyróżnia agenta od prostego skryptu, który wykonuje jedynie z góry zapisaną listę poleceń.
Osobną sprawą pozostaje sposób ewaluacji własnych działań. Dobrze zbudowany agent potrafi zidentyfikować, że otrzymany wynik odbiega od zamierzonego, i wrócić do poprzedniego etapu, by podjąć próbę innej ścieżki. Taka autokorekta przybliża działanie maszyny do ludzkiego nawyku sprawdzania własnej pracy przed jej oddaniem.