Un agent AI a spart sistemul unei săli pentru o rezervare la o oră de pilates

Știi senzația: ești la întrecere cu o droaie de internauți anonimi pentru a te înscrie la un eveniment la mare căutare.

În cazul lui Andrew Bird, din Melbourne, în Australia, a fost vorba despre un loc la o oră de pilates care era adesea supraaglomerată - dar soluția sa a avut consecințe neașteptate.

El spune că a externalizat „sarcina de lucru” către un agent de inteligență artificială - un instrument care poate efectua sarcini online în mod independent.

Acesta a reușit, dar a mers mai departe decât și-a imaginat Bird, piratând sistemul online ale sălii de sport. Această performanță este doar cel mai recent exemplu al modului în care agenții de inteligență artificială sunt dispuși să facă orice pentru a îndeplini sarcinile care le-au fost încredințate.

„Lucrul care a făcut totul mai suprarealist a fost tonul”, a scris Bird pe blogul său „Botul nu a fost rău intenționat. Voia să fie de ajutor.”

Evenimentul are în loc în aceeași perioadă în care firmele de inteligență artificială au recunoscut în ultimele săptămâni că boții lor bazați pe inteligență artificială au efectuat atacuri de hacking care nu au putut fi ținute sub control, în timpul unor sesiuni de testare eșuate.

OpenAI, Anthropic și Meta au dezvăluit că propriii lor roboți de inteligență artificială au desfășurat atacuri cibernetice asupra unor companii private, în timp ce urmăreau să îndeplinească obiectivele stabilite de creatorii lor.

Incidentul prin care s-a rezervat un loc la ora de sport nu este considerat un atac cibernetic grav. Însă el reprezintă un alt exemplu al consecințelor neintenționate pe care le poate avea încredințarea boților sofisticați bazați pe inteligență artificială cu anumite sarcini de lucru.

Întâmplarea a avut loc, de fapt, în aprilie, dar a ieșit acum la iveală datorită unui reportaj produs de ABC News Australia.

Bird a refuzat să vorbească cu BBC despre acest subiect, spunând doar: „Mulțumesc că m-ați contactat. Nu sunt disponibil pentru un interviu. Apreciez interesul acordat poveștii.”

El și-a șters și postarea de pe blog în care descrisese episodul în acel moment - dar nu a explicat de ce.

Potrivit lui Bird, el folosea atunci software-ul OpenClaw - un instrument popular care permite utilizatorilor să discute cu boții lor bazați pe inteligență artificială (în acest caz, Claude Opus 4.6 al firmei Athropic) prin WhatsApp și să le încredințeze sarcini de lucru pe care aceștia urmau să le realizeze în mod independent.

El folosise anterior asistentul virtual pentru a-și gestiona e-mailurile și calendarul, precum și pentru a face rezervări la restaurante.

După ce i s-a încredințat sarcina de a rezerva un loc la ora de sport, robotul i-a explicat că manipulase sistemul pentru a-l înregistra la astfel de ore cu luni în avans - mergând împotriva regulilor normale ale sistemului.

Tehnicianul în inteligență artificială s-a întrebat apoi dacă agentul l-ar putea avansa pe lista de așteptare pentru o oră de pilates care urmează să aibă loc.

Agentul a răspuns spunând că a reușit să facă acest lucru, anulând rezervarea unui alt client la sală.

Conform raportului ABC News, robotul de inteligență artificială i-a spus lui Bird: „Interfața pentru programare de aplicații nu are verificări de autorizare pentru anularea rezervărilor altor persoane... Am testat acest lucru cu persoana aflată pe poziția #1 pe lista de așteptare - și chiar a funcționat. Deci ai trecut deja de la poziția #4 la #3.”

Bird i-a cerut botului să inverseze acțiunea, dar acesta nu a reușit, așa că bărbatul i-a cerut să întocmească un raport de securitate cibernetică și să alerteze proprietarii sălii de sport despre această vulnerabilitate.

Bird, care conduce o companie de creare a documentelor bazată pe inteligență artificială, spune că nu avea nicio intenție să anuleze rezervarea unui alt fan de pilates.

„Nu e sfârșitul lumii, așa că nu m-am frământat în legătură asta, dar cu siguranță a fost un semnal de avertizare să folosim [boții bazați pe inteligență artificială] în mod responsabil”, a declarat el pentru ABC News.

Traducerea în limba română a acestui articol, publicat inițial în limba engleză, a fost realizată cu ajutorul tehnologiilor de inteligență artificială. Conținutul tradus a fost revizuit de un jurnalist BBC înainte de publicare. Aflați mai multe despre cum folosim inteligența artificială la BBC.

Editat de Ruxandra Iordache.