Studiu: Chatboții medicali oferă diagnostice greșite în peste 80% din cazuri

Un studiu recent a arătat că chatboții obișnuiți, precum ChatGPT și Gemini, sunt predispuși la erori de diagnostic, având o acuratețe de sub 20% în anumite situații. Studiul a fost realizat de Mass General Brigham din Massachusetts și publicat în Jama Network Open, conform News.ro.

👉 Performanțele slabe ale chatboților în diagnostice medicale

În cadrul cercetării, cercetătorii au testat 21 de modele de inteligență artificială folosind 29 de viniete clinice bazate pe texte medicale. Chatboților le-au fost furnizate informații pas cu pas despre o boală, incluzând rezultate ale consultațiilor și analizelor de laborator.

Rezultatele au arătat că toate modelele testate au dat diagnostice greșite în peste 80% dintre cazurile în care nu au avut acces la informații complete ale pacienților. Chiar și în situațiile în care informațiile erau complete, rata erorilor s-a menținut peste 40%.

👉 Limitările inteligenței artificiale în domeniul medical

Chiar dacă unii chatboți au reușit să ofere diagnostice corecte pentru 90% dintre pacienți când aveau toate informațiile, concluziile specialiștilor subliniază că performanța acestor modele de AI în domeniul medical depinde semnificativ de volumul de informații disponibile.

Expertiza în domeniu sugerează că, indiferent de cât de complete sunt informațiile, chatboții pot induce utilizatorii în eroare. Aceasta se datorează fenomenului de „halucinație”, unde modelele lingvistice generează informații fictive în absența unor soluții clare.