„Cedența cognitivă” este un termen nou și util pentru modul în care AI afectează creierul
Kyle Orland de la ArsTechnica a scris un articol pe blog despre termenul „cedența cognitivă” pe 3 aprilie. Probabil ar fi trebuit să-l observ mai devreme, deoarece circulă cel puțin din ianuarie, când a fost, se pare, introdus în acest context de cercetătorii de marketing de la Wharton Business School, Steven Shaw și Gideon Nave. Lucrarea lor este extrem de îngrijorătoare, iar odată ce vei citi despre aceste constatări, termenul „cedența cognitivă” îți va rămâne și ție în minte. Potrivit gizmodo.com, dacă creierul tău este prea gelatinos din cauza delegării gândirii către un chatbot și acum nu poți citi aceste descoperiri în detaliu, iată un videoclip cu autorii discutând despre ele:
👉 Descrierea testului și natura întrebărilor oferite participanților
Ceea ce au făcut Shaw și Nave a fost să ofere 1.372 de persoane un test și acces la un chatbot AI pentru ajutor, cu mențiunea că chatbotul dădea uneori răspunsuri greșite. Testul a fost o versiune „adaptată” a unui test numit Cognitive Reflection Test, ceea ce înseamnă că fiecare întrebare era de un anumit tip, „ciudată”: „Dacă 5 mașini au nevoie de 5 minute pentru a produce 5 obiecte, cât de mult ar dura 100 de mașini pentru a produce 100 de obiecte?” Răspunsul este „5 minute”, ceea ce necesită utilizarea gândirii „încete” și „analitice”, mai degrabă decât gândirii tale „rapide”, „intuitive” și „emoționale”. Intuiția ta rapidă ți-ar putea spune că răspunsul este 100 de minute. Aceste concepte au fost făcute celebre de o carte minunată (deși imperfectă) numită „Gândire rapidă, gândire lentă” de regretatul Daniel Kahneman.
Rezultatele testului au fost, desigur, devastatoare. Deși ar trebui să adaug înainte de a merge mai departe că ar trebui să te informezi despre criza replicării înainte de a lua rezultatele vreunui experiment ca fiind evanghelice. Valabilitatea rezultatelor experimentale, în special în psihologie, a fost pusă în discuție în ultimii ani, deoarece nu pot fi replicate. Asta nu înseamnă că am observat probleme cu lucrările acestor autori (sunt departe de a fi calificate pentru a face asta), ci doar o tendință demnă de menționat. Oricum, în partea studiului în care subiecții au avut voie să consulte chatbotul, au făcut acest lucru jumătate din timp. Când a oferit răspunsuri corecte, le-au acceptat 93% din timp. Din păcate, când chatbotul greșea, ei acceptau răspunsurile 80% din timp. Și ține minte, nu erau obligați să-l folosească deloc. Au lăsat sfaturile greșite să depășească propriile lor gânduri. Și mai rău, cei care au folosit AI și-au evaluat încrederea cu 11,7% mai mare decât cei care nu au folosit, chiar dacă informațiile erau greșite.
👉 Conceptul de „Sistem 3” și implicațiile cedenței cognitive
Autorii scriu că, în plus față de „sistemele” rapide și lente de gândire ale lui Kahneman, această nouă „crutch” artificială creează ceea ce ei numesc „Sistemul 3”. Constatările noastre demonstrează că oamenii integrează cu ușurință rezultatele generate de AI în procesele lor decizionale, adesea cu un minimum de fricțiune sau scepticism. Această implicare fără cusur cu Sistemul 3 subliniază potențialul său de a îmbunătăți gândirea cotidiană prin reducerea efortului cognitiv, accelerarea deciziilor și suplinirea sau înlocuirea gândirii interne cu perspective externe, procesate masiv, bazate pe AI.
Cedența cognitivă nu este neapărat un lucru negativ, în opinia lor. Aceasta „ilustrează valoarea și integrarea Sistemului 3, dar subliniază, de asemenea, vulnerabilitatea utilizării acestuia”. Nu este prima dată când fraza cedență cognitivă a fost folosită. Teologul Peter Berger a folosit-o într-un context religios în anii '90, dar însemna ceva mai mult, cum ar fi predarea credinței în Dumnezeu pentru a reduce disonanța cognitivă. Dacă ești ca mine, probabil ai observat că cedarea cognitivă asistată de AI seamănă cu forme mai vechi de lene mentală.
De exemplu, în sitcomul clasic „Home Improvement”, Tim „Toolman” Taylor obișnuia să ceară sfaturi vecinului său Wilson în fiecare săptămână atunci când o situație din viața sa nu putea fi rezolvată cu „mai multă putere”. Înțeleptul Wilson ar formula întotdeauna o bucată de înțelepciune veche, iar Tim o accepta mereu complet. Dar cineva ar putea argumenta că Tim folosea pur și simplu pe Wilson ca un „instrument” de economisire a timpului (dacă vrei), și că el își executa propriul act de cedare cognitivă fără AI. Sfaturile lui Wilson pot fi sunătoare, dar atunci când Tim încerca să le repet, le denatura atât de rău încât punea adesea la îndoială dacă a realizat vreo reflecție cognitivă sau pur și simplu a acceptat încrederea lui Wilson fără a gândi critic.
În curând, AI ar putea să ne transforme într-o societate de Tim Taylor, cedând cognitivi față de AI-ul nostru Wilson. Pot să mă gândesc la soarta mai rea decât asta pentru specia noastră.