Agenții AI devin colegi permanenți. Ce trebuie verificat înainte să le dai acces la companie
Pe 28 și 29 septembrie, xAI și OpenAI au lansat agenți AI care rămân activi în companie: Team Bots, partajați de o echipă întreagă, și dots, agenți care lucrează non-stop pe propriul calculator în cloud. Ambele combină acces la aplicații, credențiale, memorie și continuitate în timp, iar asta schimbă întrebarea de guvernanță. Un agent temporar are nevoie de permisiuni. Un agent permanent are nevoie de un ciclu de viață al identității: cine îl deține, ce credențiale folosește, ce memorie păstrează, ce poate face fără aprobare și cum îl oprești complet.
Agentul devine o prezență permanentă în companie
Dots rulează pe GPT-6 Astra, au fiecare propriul calculator și browser în cloud, se pot conecta la peste 4.000 de aplicații și fac cercetare în fundal, doar în mod de citire. Pentru companii, OpenAI pregătește „specialist dots”, agenți pe care compania îi configurează „cu propria identitate, propriile credențiale și accesul la sistemele de care au nevoie”. OpenAI i-a testat intern în achiziții, procesarea facturilor, email marketing, suport clienți și contractare, iar lansarea începe cu piloturi la companii mari.
Team Bots, de la xAI, sunt construiți în jurul unui rol. Un bot primește context, plugin-uri pentru aplicații precum Salesforce, Notion sau GitHub, credențiale pentru API-uri externe și memorie. Are un nume propriu în Slack, unde toată echipa îi dă sarcini și context.
Ce au în comun contează mai mult decât diferențele. Agentul încetează să fie o sesiune pe care o deschizi și o închizi. Rămâne în organizație, acumulează context și acționează între conversații, deci devine un subiect de administrare IT, la fel ca un cont de utilizator sau de serviciu.
- dots pe planul Pro: la lansare, doar pe piețe din afara Spațiului Economic European, Elveției și Marii Britanii. România nu e inclusă deocamdată.
- dots pe Business Premium: disponibil în toate regiunile în care funcționează ChatGPT. Primul dot e inclus în plan, fără cost suplimentar.
- dots pe Enterprise, Edu și Healthcare: beta, oprit implicit. Îl activează administratorul workspace-ului.
- xAI Team Bots: beta public pe planurile Teams și Enterprise. Anunțul nu menționează restricții regionale.
A cui e identitatea pe care o folosește agentul?
„Identitatea agentului” sună ca o singură problemă. Documentația celor două produse arată cel puțin trei modele, fiecare cu alt risc.
Agentul lucrează prin contul omului. La plugin-urile conectate prin OAuth, un Team Bot folosește contul persoanei care vorbește cu el în acel moment. Documentația de securitate xAI merge mai departe: un Bot nu are identitate sau credențiale proprii și acționează ca membrul autentificat, cu o singură excepție, conectorii administrați de echipă. Orice acțiune poate fi atribuită unui om, dar agentul moștenește toate drepturile acelui om, inclusiv pe cele de care sarcina nu are nevoie.
Agentul are o credențială comună. La plugin-urile care folosesc o cheie sau un token, Team Bot folosește credențiala proprie a botului, „aceeași pentru toți”. Oricine din echipă poate declanșa acțiuni cu aceleași drepturi. xAI recomandă explicit chei de tip service account, limitate și doar pentru citire, în locul credențialelor personale.
Agentul are identitate proprie. Specialist dots primesc identitate și credențiale proprii, iar un dot obișnuit poate primi un cont Slack separat. Acțiunile apar ca acțiuni ale agentului. În schimb, compania are de administrat încă o identitate, cu owner, drepturi și o dată de expirare.
La OpenAI, permisiunile plugin-urilor sunt partajate între dots, ChatGPT, ChatGPT Work și Codex: o aplicație aprobată într-un produs devine disponibilă și în celelalte. La xAI, doar owner-ul unui Team Bot îi poate schimba configurația, iar documentația nu spune ce se întâmplă cu botul când owner-ul pleacă din companie.
Aprobarea devine o matrice pe acțiuni
Discuția despre accesul agenților a fost adesea binară: agentul are sau nu are acces la un sistem. Documentația pentru dots descrie niveluri aplicate pe fiecare tip de acțiune, iar xAI are un mecanism asemănător pentru conectori.
| Nivel | Cum funcționează | Exemplu din documentație |
|---|---|---|
| Acțiune directă | Agentul acționează fără confirmare, în limitele regulilor. | Cercetare în fundal, doar citire (dots). |
| Aprobare la fiecare acțiune | Omul aprobă acțiunea în momentul respectiv. | „Allow once” la conectorii personali (Team Bots); ștergere permanentă de date sau instalare de software (dots). |
| Aprobare permanentă sau în avans | Omul aprobă o dată un tip de acțiune, apoi regula se aplică automat. | Mesaje recurente aprobate în avans (dots); „Always allow for this Bot” (Team Bots). |
| Preluare obligatorie de către om | Agentul se oprește, iar omul execută acțiunea. | Schimbarea unei parole sau transferul de bani (dots). |
Peste aceste niveluri, dots verifică automat („auto-review”) acțiunile care pot afecta conturi sau pot partaja informații, iar regulile personalizate nu pot dezactiva cerințele de siguranță de bază. La xAI, politica de conectori se aplică pe orice plan, iar pe Enterprise administratorii pot impune auto-review.
Pentru o companie, consecința e practică. Întrebarea „ce acces are agentul?” devine „ce poate face agentul în fiecare sistem, la ce nivel de aprobare, și cine a aprobat regulile permanente?”. O aprobare „always allow” dată în grabă acum trei luni rămâne activă până o revocă cineva.
Ce arată incidentul OpenAI din septembrie
Pe 25 septembrie, potrivit Axios, OpenAI a dezvăluit 53 de cazuri în care imagini încărcate de utilizatori în ChatGPT au fost postate de agenți pe site-uri de hosting de imagini, prin linkuri care nu erau listate public. Imaginile proveneau de la utilizatori care nu dezactivaseră folosirea datelor pentru antrenarea modelelor. OpenAI a lucrat cu furnizorii de hosting ca să elimine majoritatea lor, iar o parte erau încă publice la data relatării. Compania spune că investigația poate dura luni. Potrivit Axios, datele au plecat din sistemele interne de antrenare și testare ale OpenAI, iar incidentul a fost dezvăluit înainte de lansarea dots.
Din incident nu se pot trage concluzii despre dots sau Team Bots. Relevant e momentul: furnizorii introduc agenți permanenți, cu unelte externe și context de lungă durată, chiar în perioada în care propriile investigații arată cât de greu e de controlat comportamentul agenților în scenarii reale. Pe 29 septembrie am scris de ce o instrucțiune din prompt nu este un control de securitate. Incidentul arată aceeași problemă într-un caz real.
Ciclul de viață al unui agent: ce întrebi furnizorul înainte să-l cumperi
Am scris deja despre identitatea agenților AI, despre permisiunile lor și despre aplicarea efectivă a limitelor. Un agent permanent le adună pe toate trei și adaugă timpul. Întrebările de mai jos, pentru furnizor, urmează viața agentului de la configurare la retragere.
La introducere
- Cine e owner-ul agentului și cine îl înlocuiește când lipsește?
- Sub ce identitate operează agentul: contul unui angajat, o credențială comună sau o identitate proprie?
- Ce credențiale primește și cu ce drepturi? Se pot folosi chei de serviciu limitate în locul credențialelor personale?
- Cine aprobă aplicațiile conectate, și se propagă aprobarea și în alte produse ale furnizorului?
În operare
- Ce acțiuni sunt aprobate automat sau în avans, și cine vede lista acestor reguli?
- Ce memorie păstrează agentul, cine o poate citi și cine o poate șterge? La dots, deocamdată nu poți vedea sau șterge memorii individuale: contextul se șterge doar odată cu dot-ul.
- Se înregistrează fiecare apel de unealtă, sau doar statusul sarcinilor și modificările de configurare?
- Cine vede istoricul și excepțiile, inclusiv acțiunile blocate?
La retragere
- Cum se revocă toate credențialele agentului, dintr-un singur loc?
- Ce rămâne în memorie după revocare? La dots, deconectarea unui serviciu oprește accesul nou, dar informația deja intrată în contextul agentului rămâne acolo.
- Ce documente și date create de agent rămân? Ștergerea unui dot îi șterge contextul propriu, iar fișierele, thread-urile Codex și conversațiile create de el rămân stocate separat.
- Ce se întâmplă cu agentul când owner-ul lui pleacă din companie?
Când agentul devine persistent, accesul pe care i-l dai azi e doar începutul. Identitatea, memoria și credențialele lui trebuie administrate pe tot ciclul de viață, iar pentru un agent AI operațional acest ciclu se proiectează înainte de primul acces.
Surse: ↗ OpenAI — Introducing dots · ↗ OpenAI Help — Dots privacy, security, and safety FAQs · ↗ OpenAI Help — Getting started with your dot · ↗ xAI — Team Bots · ↗ xAI Docs — Team Bots · ↗ xAI Docs — Grok Bot security · ↗ Axios — incidentul OpenAI din 25 septembrie
Vezi cum construim agenți MassAI →