Ochelarii inteligenți Meta Ray-Ban trimit videoclipuri „senzitive” către analiști de date umani
Un nou raport afirmă că fluxurile video de la ochelarii inteligenți Meta Ray-Ban sunt trimise pentru revizuire de către analiști de date umani din Kenya, iar filmările includ conținut senzitiv care ar fi trebuit exclus. Conform informațiilor, videoclipurile vizionate de contractorii externi utilizați de Meta conțin de la oameni care fac sex până la carduri bancare, potrivit 9to5mac.com.
👉 Funcționarea ochelarilor inteligenți Meta Ray-Ban și procesarea datelor
Ochelarii inteligenți Meta Ray-Ban pot captura video în două moduri. Mai întâi, utilizatorii pot activa înregistrarea manuală pentru a captura filmări din perspectiva utilizatorului. Acest lucru poate fi o modalitate excelentă de a înregistra experiențe, cum ar fi o plimbare cu montagne russe, precum și incidente care pot apărea în timpul condusului sau biciclitului. În al doilea rând, utilizatorii pot folosi funcția AI pentru a pune întrebări despre ceea ce văd prin ochelari.
Se știe că această procesare AI se face pe serverele Meta, motiv pentru care filmările trebuie trimise acolo pentru analiză. Totuși, un raport al site-ului suedez SVD afirmă că filmările sunt trimise analiștilor de date umani care au sarcina de a identifica manual obiectele vizibile în aceste clipuri. Un angajat al unui contractor extern din Kenya afirmă că aceste filmări includ uneori conținut foarte sensibil.
👉 Reclamațiile angajaților din Kenya privind conținutul sensibil
Lucrătorii din Kenya spun că se simt inconfortabil să meargă la muncă. Aceștia vorbesc despre clipuri video extrem de private, care par să provină direct din casele occidentale, de la persoane care folosesc ochelarii în viața lor de zi cu zi. Mai mulți dintre ei descriu materiale video care surprind vizite la toaletă, sex și alte momente intime. „Cineva ar fi putut să umble cu ochelarii, sau să fi purtat ochelarii când partenerul se afla în baie sau tocmai ieșise dezbrăcat”, spune un angajat.
Condițiile în care aceste videoclipuri sensibile sunt capturate sunt foarte neclare din raport. De exemplu, există referiri la persoane care poartă ochelarii în timpul actului sexual, ceea ce ar părea o utilizare foarte deliberată. Cu toate acestea, pare, de asemenea, că filmările sunt trimise pentru revizuire chiar și atunci când cineva înregistrează manual, mai degrabă decât folosind AI-ul Meta.
Există cu siguranță o lipsă de transparență cu privire la ce filmări sunt trimise la Meta atunci când se folosește funcția AI. De exemplu, dacă te uiți la o mașină și ceri lui Meta să identifice marca și modelul, până la ce punct încetează să mai trimită filmări? Este vorba de cinci secunde mai târziu, zece secunde, treizeci de secunde? Este imediat după ce întrebarea a fost răspunsă sau continuă să înregistreze în cazul în care pui întrebări suplimentare? Termenii de utilizare ai companiei sunt extrem de vagi. Aceștia afirmă că „în unele cazuri, Meta va analiza interacțiunile tale cu AI-urile, inclusiv conținutul conversațiilor sau al mesajelor tale către AI-uri, iar această analiză poate fi automatizată sau manuală (umanoidă)”.
SVP spune că, atunci când a cerut lui Meta detalii, compania le-a oferit doar referințe la Termenii de Serviciu și Politica de Confidențialitate. Frustrant, raportul arată că site-ul a analizat traficul de rețea pentru a vedea ce este trimis, dar apoi nu oferă deloc informații. Când analizăm traficul de rețea al aplicației, observăm că telefonul are un contact frecvent cu serverele Meta din Luleå, Suedia, și Danemarca.
Fost angajați Meta afirmă că datele sensibile nu ar trebui să fie trimise pentru revizuire umană, dar aceasta depinde de identificarea algoritmică a acelor date sensibile, ceea ce nu este întotdeauna de succes. Personal, folosesc ochelarii. Noutatea funcției AI s-a estompat rapid, dar sunt o modalitate foarte convenabilă de a captura filmări din perspectiva utilizatorului fără a folosi mâinile. Deși nu i-aș folosi niciodată pentru a filma ceva sensibil, aș fi destul de indignat să descopăr că Meta capturează înregistrări video manuale. Raportul suferă de o lipsă frustrantă de informații concrete, dar cred că servește ca un memento de a folosi orice serviciu AI cu precauție atunci când vine vorba de date sensibile de orice fel – sau orice produs Meta.
