Incidentul readuce în atenție riscurile folosirii inteligenței artificiale ca sursă unică de informații în domenii în care o recomandare greșită poate produce pagube importante.
A folosit substanțele recomandate de chatbot
Fermierul din Chuzhou, China, ar fi folosit timp de mai multe luni un chatbot AI pentru a-și organiza activitățile agricole și pentru recomandări legate de îngrășăminte.
În luna iulie, acesta i-ar fi cerut chatbotului o soluție pentru combaterea dăunătorilor care îi afectau cultura de susan.
Potrivit informațiilor publicate de presa citată de Antena 3 CNN, chatbotul i-ar fi recomandat un amestec care includea flupirimethalin și fomesafen, împreună cu thiamethoxazine și sare de metil. Fermierul a aplicat substanțele pe culturile sale fără să solicite în prealabil opinia unui specialist.
Rezultatul a fost devastator.
Aproape 100.000 de metri pătrați de culturi au fost distruși
A doua zi după aplicarea tratamentului, fermierul ar fi constatat că aproximativ 100.000 de metri pătrați de culturi, echivalentul a 10 hectare, fuseseră distruși.
Problema ar fi fost legată în special de unul dintre erbicidele recomandate de chatbot.
Fomesafenul este utilizat în principal pentru combaterea buruienilor cu frunză lată și este folosit în special în anumite culturi, inclusiv soia. Susanul are, la rândul său, frunze late, ceea ce a făcut ca planta cultivată să fie afectată de substanța aplicată.
Fermierul a revenit ulterior la chatbot pentru a afla de ce plantele au fost distruse. De această dată, sistemul i-ar fi explicat că erbicidul nu era potrivit pentru cultura de susan.
Fermierul ajunsese să aibă încredere în AI
Potrivit informațiilor relatate de publicațiile care au prezentat cazul, bărbatul era inițial sceptic în privința recomandărilor primite de la inteligența artificială.
După mai multe luni în care a folosit chatbotul pentru diferite activități agricole, încrederea sa în răspunsurile oferite de acesta ar fi crescut.
Cazul arată însă cât de costisitoare poate deveni o eroare atunci când o recomandare generată automat este pusă direct în practică, fără verificarea informației.
Chatboții AI nu sunt infailibili
Specialiștii avertizează de mai mult timp că sistemele de inteligență artificială pot produce răspunsuri convingătoare, dar greșite. Chatboții nu verifică automat fiecare informație pe care o oferă și pot genera ceea ce este cunoscut drept „halucinații” – informații prezentate cu siguranță, deși sunt false sau inexacte.
În cazul fermierului chinez, eroarea a avut consecințe concrete: pierderea unei suprafețe de aproximativ 10 hectare de culturi.
Incidentul este un exemplu al motivului pentru care recomandările privind erbicide, pesticide, îngrășăminte sau alte substanțe chimice nu ar trebui aplicate doar pe baza unui răspuns primit de la un chatbot. Astfel de informații trebuie verificate cu specialiști în agricultură și cu instrucțiunile oficiale ale produselor.
Cazul fermierului din China demonstrează că inteligența artificială poate fi un instrument util, dar nu poate înlocui expertiza umană atunci când sunt în joc culturi, bani și substanțe care pot produce efecte ireversibile.
