Dojo al presei independente

Categorie: Gând de rând

Gând de rând

AI-ul Google: răspunsuri greșite sau periculoase

27/05/2024

de Alina Voinea

Angoasa actuală legată de inteligența artificială (AI) este...

Pat în formă de pisică - imagine fake generată cu AI

Gând de rând

Era post-fake – prezentul suspiciunii, eșecul democrației

12/04/2024

de Alina Voinea

Pe Facebook circulă o captură de ecran care nu are cum să...

Gând de rând • Editorial

Vas populi

27/06/2022

de Alina Voinea

La un moment dat în istorie pântecul femeii era sacru. Din...

Gând de rând • Editorial

Între stat și bărbat

17/05/2022

de Alina Voinea

Nu știm dacă, istoric vorbind, corpul femeii a fost...

Gând de rând

“Fițe” de refugiați

26/03/2022

de Alina Voinea

O femeie ucraineană i-a mulțumit acum câteva zile unui...

Gând de rând

Adevărata înfățișare

21/03/2022

de Alina Voinea

Dezumanizarea e un mecanism periculos. E o tehnică perfidă...

Gând de rând

Despre haine

20/03/2022

de Alina Voinea

Împăratul s-a dus pe stadion într-o pufoaică Loro Piana de...

Gând de rând

Gara de Nord, punct de tranzit pentru refugiații din Ucraina

05/03/2022

de Alina Voinea

Gara de Nord din București este un punct de tranzit prin...

Gând de rând

Cui servește?

03/03/2022

de Alina Voinea

Televiziunile fac, de câteva zile, doar trei lucruri:...

culorile ucrainei traversate de sârma ghimpată

Gând de rând

Cei ce rămân

26/02/2022

de Alina Voinea

Prin vămile țării trec de-a valma, în șiruri interminabile...

Politica de confidențialitate

Acest portal folosește cookie-uri pentru a îmbunătăți experința de navigare. Dintre toate cookie-urile, o parte sunt necesare pentru funcționarea corectă a portalului. O serie de cookie-uri furnizate de către terți ar putea fi folosite pentru a permite analiza și înțelegerea modului în care utilizatorii folosesc portalul, totul într-un mod anonimizat. Acest cookie-uri vor fi folosite numai acordul explicit al utilizatorului, care poate alege oricând să le dezactiveze. În cazul nostru, am mers un pas mai departe și le-am dezactivat automat.

Necesare

Întotdeauna activate

Cookie-urile necesare sunt esențiale pentru funcționarea corectă a portalului. Aceste cookie-uri asigură funcționalitățile de bază, precum și de securitate, în mod anonimizat.

Cookie	Durată	Descriere
AI-ul Google: răspunsuri greșite sau periculoase		Angoasa actuală legată de inteligența artificială (AI) este aceea că deja periclitează multe ocupații și, prin urmare, amenință siguranța și chiar disponibilitatea locurilor de muncă. Nu este așadar de mirare că lumea se amuză când AI-ul greșește, pentru că asta înseamnă că momentul în care mașina va putea înlocui omul este încă îndepărtat. Însă tindem să nu observăm că, așa imperfect cum este, AI-ul deja produce efecte, iar multe dintre acestea nu țin numai de economie. Zilele trecute mulți dintre cei care folosesc motorul de căutare Google au observat o funcție nouă, care promite să ofere răspunsuri instantanee la întrebările utilizatorilor, generate cu inteligența artificială: AI Overview. Într-un spațiu plasat deasupra listei de rezultate, marcat cu un romb galben asemănător cu o steluță, inteligența artificială oferă întâi un răspuns generat în câteva paragrafe, apoi extrase din diverse site-uri, pentru cei care nu se mulțumesc cu răspunsul succint primit și vor detalii. Un experiment riscant Desigur, dedesubtul casetei dedicate se menționează că răspunsurile generate cu AI sunt experimentale, pentru a evita eventualele probleme în cazul în care AI-ul oferă informații greșite sau chiar periculoase. Și a fost o mișcare chibzuită din partea Google, pentru că AI-ul a făcut exact asta: zgândărit de utilizatori cu tot felul de întrebări puse mai în glumă, mai în serios, a generat și texte cu informații absurde, eronate. Iar internetul nu a întârziat să facă și altora cunoscute diversele exemple de astfel de răspunsuri, astfel încât circulă deja peste tot capturile de ecran în care AI-ul sugerează să se pună lipici netoxic pe pizza ca să stea bine toppingurile și să se consume cel puțin o pietricică pe zi, pentru că are un conținut bogat în minerale, citând – culmea! – geologii de la UC Berkley. [caption id="attachment_3371" align="aligncenter" width="586"] Google AI Overview sugerează să se pună lipici... pe pizza[/caption] [caption id="attachment_3374" align="aligncenter" width="1200"] Google AI Overview oferă rețeta pentru consumul... de pietre[/caption] Cum este posibil ca AI-ul Google să dea răspunsuri greșite? Pentru că și Internetul s-a întrebat asta, utilizatorii au identificat rapid și sursele erorilor. În primul caz din exemplul de mai sus, răspunsul cu lipiciul a fost dat astfel de către un redditor* sarcastic, ceea ce arată că una dintre sursele folosite de Google pentru a-și antrena AI-ul este rețeaua de socializare Reddit, cunoscută, printre altele, și pentru o calitate mai orientată spre aspecte practice a conversațiilor purtate de membrii ei. În al doilea, se pare că reputata universitate californiană este citată fictiv – în scop de amuzament, desigur – într-un un articol publicat în The Onion, o publicație online de umor similară cu site-ul românesc de satiră Times New Roman. În ambele cazuri așadar, AI-ul n-a prins nici ironia, nici gluma, și a luat de bune două texte scrise fără intenția de a informa, doar pentru că a considerat că sursele din care a preluat informațiile sunt de încredere. Care sunt riscurile atunci când lăsăm discernământul în seama AI-ului? În prezent este cunoscut în mediile profesionale IT faptul că atacurile asupra a tot ce alcătuiește sistemul informatic global – de la centre de date și site-uri la aparatură de uz casnic conectată la rețeaua internet domestică – sunt din ce în ce mai multe și mai complexe, fiind adesea rulate și gestionate automatizat. Este așadar evident că o sursă considerată de calitate pentru antrenarea AI-ului Google poate fi oricând preluată abuziv de persoane care în securitatea cibernetică se numesc “actori malefici” (“bad actors”) și poate fi populată discret cu texte rău intenționate, menite să dezinformeze și să producă efecte nedorite asupra utilizatorului obișnuit – omul de rând. O astfel de intruziune poate trece neobservată mult timp, și, în cazul în care AI-ul fără discernământ colectează datele eronate și le livrează drept bune celor care folosesc motorul de căutare, Google riscă să devină un instrument nesigur și de-a dreptul periculos, atât pentru sănătatea, siguranța și bunăstarea populației, cât și, în cazul în care informațiile greșite sunt intenționate astfel, pentru democrație și economie. Care este riscul pentru democrație? Avem deja exemplul Rețelei Minciunilor identificate de colegii de la Context.ro, caz în care vectorii dezinformării sunt website-uri, persoane și grupuri cu activitate cu o acoperire incomparabil mai mică decât cea a motorului de căutare folosit de majoritate. Nu este greu deci să ne imaginăm efectele pe care le poate avea într-un context electoral un răspuns fabulat de Google din surse fabricate în acest scop la întrebări legate de modul în care s-au desfășurat anumite evenimente sau despre oameni politici, declarațiile lor publice și acțiunile lor. Este evident că, dacă populația unui stat primește același răspuns greșit sau de-a dreptul mincinos la o întrebare de actualitate, populația în cauză poate fi ușor manipulată. Iar o populație ușor de manipulat, care nu mai are nici resurse într-o economie care trece într-un ritm frenetic la automatizarea cu AI, este o populație vulnerabilă, cu un viitor incert. Din toate punctele de vedere. -- redditor - utilizator al rețelei Reddit (n.a.) Surse foto: Peter Yang, Kris Kashtanova*
cookielawinfo-checkbox-analytics	11 luni	Folosit pentru a stoca acordul sau refuzul utilizatorilor pentru cookie-urile statistice.
cookielawinfo-checkbox-functional	11 luni	Folosit pentru a stoca acordul sau refuzul utilizatorilor pentru cookie-urile funcționale.
cookielawinfo-checkbox-necessary	11 luni	Folosit pentru a stoca acordul sau refuzul utilizatorilor pentru cookie-urile necesare.
cookielawinfo-checkbox-performance	11 luni	Folosit pentru a stoca acordul sau refuzul utilizatorilor pentru cookie-urile de performanță.
viewed_cookie_policy	11 luni	Folosit pentru a verifica dacă utilizatorii sunt sau nu de acord cu folosirea cookie-urilor. Nu stochează date personale.

Funcționale

Cookie-urile funcționale ajută la efectuarea anumitor operațiuni precum publicarea informațiilor de pe portal pe rețele de socializare, colectarea de feedback sau alte servicii furnizate de către terți.

Durată

Descriere

AI-ul Google: răspunsuri greșite sau periculoase

Angoasa actuală legată de inteligența artificială (AI) este aceea că deja periclitează multe ocupații și, prin urmare, amenință siguranța și chiar disponibilitatea locurilor de muncă. Nu este așadar de mirare că lumea se amuză când AI-ul greșește, pentru că asta înseamnă că momentul în care mașina va putea înlocui omul este încă îndepărtat. Însă tindem să nu observăm că, așa imperfect cum este, AI-ul deja produce efecte, iar multe dintre acestea nu țin numai de economie. Zilele trecute mulți dintre cei care folosesc motorul de căutare Google au observat o funcție nouă, care promite să ofere răspunsuri instantanee la întrebările utilizatorilor, generate cu inteligența artificială: AI Overview. Într-un spațiu plasat deasupra listei de rezultate, marcat cu un romb galben asemănător cu o steluță, inteligența artificială oferă întâi un răspuns generat în câteva paragrafe, apoi extrase din diverse site-uri, pentru cei care nu se mulțumesc cu răspunsul succint primit și vor detalii.

Un experiment riscant

Desigur, dedesubtul casetei dedicate se menționează că răspunsurile generate cu AI sunt experimentale, pentru a evita eventualele probleme în cazul în care AI-ul oferă informații greșite sau chiar periculoase. Și a fost o mișcare chibzuită din partea Google, pentru că AI-ul a făcut exact asta: zgândărit de utilizatori cu tot felul de întrebări puse mai în glumă, mai în serios, a generat și texte cu informații absurde, eronate. Iar internetul nu a întârziat să facă și altora cunoscute diversele exemple de astfel de răspunsuri, astfel încât circulă deja peste tot capturile de ecran în care AI-ul sugerează să se pună lipici netoxic pe pizza ca să stea bine toppingurile și să se consume cel puțin o pietricică pe zi, pentru că are un conținut bogat în minerale, citând – culmea! – geologii de la UC Berkley. [caption id="attachment_3371" align="aligncenter" width="586"]

Google AI Overview sugerează să se pună lipici... pe pizza[/caption] [caption id="attachment_3374" align="aligncenter" width="1200"]

Google AI Overview oferă rețeta pentru consumul... de pietre[/caption]

Cum este posibil ca AI-ul Google să dea răspunsuri greșite?

Pentru că și Internetul s-a întrebat asta, utilizatorii au identificat rapid și sursele erorilor. În primul caz din exemplul de mai sus, răspunsul cu lipiciul a fost dat astfel de către un redditor* sarcastic, ceea ce arată că una dintre sursele folosite de Google pentru a-și antrena AI-ul este rețeaua de socializare Reddit, cunoscută, printre altele, și pentru o calitate mai orientată spre aspecte practice a conversațiilor purtate de membrii ei. În al doilea, se pare că reputata universitate californiană este citată fictiv – în scop de amuzament, desigur – într-un un articol publicat în The Onion, o publicație online de umor similară cu site-ul românesc de satiră Times New Roman. În ambele cazuri așadar, AI-ul n-a prins nici ironia, nici gluma, și a luat de bune două texte scrise fără intenția de a informa, doar pentru că a considerat că sursele din care a preluat informațiile sunt de încredere.

Care sunt riscurile atunci când lăsăm discernământul în seama AI-ului?

În prezent este cunoscut în mediile profesionale IT faptul că atacurile asupra a tot ce alcătuiește sistemul informatic global – de la centre de date și site-uri la aparatură de uz casnic conectată la rețeaua internet domestică – sunt din ce în ce mai multe și mai complexe, fiind adesea rulate și gestionate automatizat. Este așadar evident că o sursă considerată de calitate pentru antrenarea AI-ului Google poate fi oricând preluată abuziv de persoane care în securitatea cibernetică se numesc “actori malefici” (“bad actors”) și poate fi populată discret cu texte rău intenționate, menite să dezinformeze și să producă efecte nedorite asupra utilizatorului obișnuit – omul de rând. O astfel de intruziune poate trece neobservată mult timp, și, în cazul în care AI-ul fără discernământ colectează datele eronate și le livrează drept bune celor care folosesc motorul de căutare, Google riscă să devină un instrument nesigur și de-a dreptul periculos, atât pentru sănătatea, siguranța și bunăstarea populației, cât și, în cazul în care informațiile greșite sunt intenționate astfel, pentru democrație și economie.

Care este riscul pentru democrație?

Avem deja exemplul Rețelei Minciunilor identificate de colegii de la Context.ro, caz în care vectorii dezinformării sunt website-uri, persoane și grupuri cu activitate cu o acoperire incomparabil mai mică decât cea a motorului de căutare folosit de majoritate. Nu este greu deci să ne imaginăm efectele pe care le poate avea într-un context electoral un răspuns fabulat de Google din surse fabricate în acest scop la întrebări legate de modul în care s-au desfășurat anumite evenimente sau despre oameni politici, declarațiile lor publice și acțiunile lor. Este evident că, dacă populația unui stat primește același răspuns greșit sau de-a dreptul mincinos la o întrebare de actualitate, populația în cauză poate fi ușor manipulată. Iar o populație ușor de manipulat, care nu mai are nici resurse într-o economie care trece într-un ritm frenetic la automatizarea cu AI, este o populație vulnerabilă, cu un viitor incert. Din toate punctele de vedere. -- *redditor - utilizator al rețelei Reddit (n.a.) Surse foto: Peter Yang, Kris Kashtanova

De performanță

Aceste cookie-uri sunt folosite pentru analiza și înțelegerea principarilor indicatori de performanță ai portalului și au ca scop furnizarea unei mai bune experiențe de navigare.

Durată

Descriere

AI-ul Google: răspunsuri greșite sau periculoase

Un experiment riscant

Google AI Overview sugerează să se pună lipici... pe pizza[/caption] [caption id="attachment_3374" align="aligncenter" width="1200"]

Google AI Overview oferă rețeta pentru consumul... de pietre[/caption]

Cum este posibil ca AI-ul Google să dea răspunsuri greșite?

Care sunt riscurile atunci când lăsăm discernământul în seama AI-ului?

Care este riscul pentru democrație?

Statistice

Aceste cookie-uri sunt folosite pentru a înțelege modul în care vizitatorii interacționează cu portalul, furnizând informații despre numărul total al acestora, cum au ajuns la portal, coeficientul bounce, etc.

Durată

Descriere

AI-ul Google: răspunsuri greșite sau periculoase

Un experiment riscant

Google AI Overview sugerează să se pună lipici... pe pizza[/caption] [caption id="attachment_3374" align="aligncenter" width="1200"]

Google AI Overview oferă rețeta pentru consumul... de pietre[/caption]

Cum este posibil ca AI-ul Google să dea răspunsuri greșite?

Care sunt riscurile atunci când lăsăm discernământul în seama AI-ului?

Care este riscul pentru democrație?

Publicitare

Cookie-urile publicitare sunt utilizate pentru a servi vizitatorilor reclame și campanii de marketing relevante.

Durată

Descriere

AI-ul Google: răspunsuri greșite sau periculoase

Un experiment riscant

Google AI Overview sugerează să se pună lipici... pe pizza[/caption] [caption id="attachment_3374" align="aligncenter" width="1200"]