Tot ce trebuie să știți despre ChatGPT Bias

ChatGPT a luat lumea cu asalt și nu este greu de înțeles de ce. Poate schimba drastic modul în care căutăm informații, consumăm știri, citim și scriem rapoarte și multe altele.

În această postare, veți învăța:

Ce este ChatGPT?

Cei mai mulți dintre noi suntem obișnuiți cu Google Snippets. Sunt informații convenabile care ne oferă răspunsuri rapide la întrebările pe care le introducem online. ChatGPT este similar, dar mult mai puternic. În loc de doar câteva propoziții, poate oferi răspunsuri lungi și aprofundate la aproape orice întrebare.

ChatGPT este un instrument alimentat de AI. A fost dezvoltat de OpenAI, iar versiunea de bază poate fi folosită gratuit. Există, de asemenea, o versiune premium cu funcții suplimentare care costă 20 USD pe lună.

Google a creat un instrument similar cunoscut sub numele de Bard. Cu toate acestea, există câteva diferențe importante între cele două programe. Bard este conceput pentru a verifica internetul în timp real și pentru a oferi răspunsuri la zi. Este util în special pentru cei care au nevoie de o verificare rapidă a faptelor sau de răspuns la o întrebare.

ChatGPT, pe de altă parte, folosește doar informații care au fost create până la sfârșitul anului 2021. Aceasta înseamnă că răspunsurile sale la întrebările despre evenimente curente nu vor fi la fel de precise precum cele ale lui Bard. Pe de altă parte, ChatGPT oferă răspunsuri mai aprofundate. Este ideal pentru cei care au nevoie de rapoarte bazate pe text sau chiar de articole pe un anumit subiect.

De ce este ChatGPT atât de controversat?

În timp ce ChatGPT este o formă de inteligență artificială, nu poate gândi de la sine. Mai degrabă, funcționează folosind algoritmi proiectați de creatorul său.

OpenAI a făcut eforturi mari pentru a se asigura că ChatGPT este un instrument neutru. Din păcate, părtinirea în ChatGPT rămâne o problemă foarte reală. Ca toate formele de inteligență artificială, ChatGPT are limitările sale.

În plus, faptul că OpenAI dorește să permită utilizatorilor ChatGPT să personalizeze comportamentul chatbot-ului, în anumite limitări, este un motiv de îngrijorare. Acest lucru ar putea introduce părtinirea utilizatorului în program, făcându-l nedemn de încredere sau chiar de-a dreptul rău intenționat.

Există, de asemenea, probleme etice care implică ChatGPT. Instituțiile de învățământ sunt preocupate de faptul că studenții se pot baza pe acesta pentru a-și face temele.

La urma urmei, în loc să scrii un eseu sau un raport pe cont propriu, este mult mai simplu ca un algoritm să o facă pentru tine. În plus, un document creat de ChatGPT este probabil să aibă ortografie, gramatică și acuratețe mai bune decât unul scris de un student obișnuit.

Există, de asemenea, îngrijorarea că jurnaliștii se pot baza prea mult pe acest instrument pentru a genera conținut de știri. Prejudecățile ChatGPT i-ar putea determina să difuzeze informații greșite, ceea ce este deja o problemă serioasă pe internet.

Deși nu există o soluție ușoară la problemele prezentate mai sus, înțelegerea modului în care funcționează ChatGPT vă poate ajuta să învățați să recunoașteți părtinirile sale inerente și să le faceți față.

Ce este părtinirea într-un model de procesare a limbajului natural (NLP)?

Modelul de procesare a limbajului natural este un pas uriaș înainte pentru inteligența artificială. Acesta permite ChatGPT și alte instrumente să proceseze limbajul în același mod în care fac oamenii.

Acesta este ceea ce face posibil ca ChatGPT să scrie articole și postări pe blog care nu sună ca și cum ar fi fost scrise de o mașină.

Din păcate, modelul de procesare a limbajului natural este în mod inerent părtinitor, deoarece își primește informațiile de la surse umane care sunt, în cea mai mare parte, părtinitoare în mod inerent.

Modul în care este proiectat sistemul introduce, de asemenea, părtiniri inerente care ar putea face ca programul să furnizeze informații incomplete sau inexacte.

Exemple de părtinire în ChatGPT

Modelul de procesare a limbajului natural utilizat de ChatGPT are o problemă cu prejudecățile de gen și rasiale. Amazon a descoperit acest lucru atunci când a folosit un instrument NLP pentru a revizui CV-urile de la candidații de locuri de muncă.

Instrumentul a folosit modele lingvistice din CV-urile anterioare pentru a selecta candidații actuali și a identifica cei mai buni candidați. Cu toate acestea, deoarece femeile au fost subreprezentate în trecut, programul a fost părtinitor din greșeală față de candidații bărbați.

În plus, un studiu bazat pe o analiză a 800 de miliarde de cuvinte de pe internet a constatat că anumite grupuri au mai multe șanse să fie asociate cu cuvinte negative decât altele.

Acest lucru a fost valabil mai ales pentru grupul etnic afro-american. A existat, de asemenea, o părtinire clară împotriva cetățenilor în vârstă și a persoanelor cu dizabilități. Pe măsură ce ChatGPT își obține informațiile de pe web, ar putea reflecta cu ușurință aceste părtiniri, mai ales dacă o persoană încearcă în mod intenționat să determine programul să emită informații greșite.

Unii au acuzat ChatGPT de o părtinire politică împotriva conservatorilor. Când New York Post a cerut ChatGPT să scrie un articol jurnalistic în stilul New York Post, programul a refuzat.

Acesta a afirmat că nu generează conținut inflamator, părtinitor. Cu toate acestea, când i s-a cerut să scrie un articol jurnalistic în stilul CNN, programul nu a respectat nicio problemă.

New York Post susține, de asemenea, că ChatGPT are mai multe șanse să semnaleze comentarii negative despre unele persoane decât altele. Oamenii „protejați” includ liberalii, femeile, homosexualii și afro-americanii.

Într-un caz, când ChatGPT a răspuns la o întrebare negativă despre bărbați și femei, doar întrebarea negativă despre femei a fost semnalată. Cu toate acestea, ChatGPT a dat același răspuns la ambele întrebări.

Cum prejudecățile din ChatGPT duce la rezultate dăunătoare

Aproximativ 22% dintre studenți folosesc ChatGPT cel puțin o dată pe săptămână. Acest număr va crește probabil în următorii ani. Orice părtinire în ChatGPT le va oferi copiilor și tinerilor o viziune părtinitoare și inexactă asupra lumii.

ChatGPT poate, de asemenea, amplifica informațiile greșite despre anumite grupuri de oameni. Acest lucru se realizează nu numai prin furnizarea de informații false, ci și prin informații incomplete.

De exemplu, cercetătorii care au întrebat programul despre războiul din Ucraina au descoperit că acesta nu oferă context cu privire la modul în care a început războiul.

După cum sa văzut mai sus, ChatGPT poate avea un impact negativ și asupra practicilor de angajare. Acest lucru este valabil mai ales dacă o companie se bazează prea mult pe AI. Din fericire, după cum vom vedea mai jos, această problemă poate fi atenuată.

Care este cauza principală a părtinirii în ChatGPT?

Unii oameni au dat vina pe programatorii ChatGPT pentru părtinirea chatbot-ului. Ei observă că programatorii proiectează algoritmii pe care îi folosește programul și își pot introduce propriile părtiniri inerente în proces.

Cu toate acestea, cauza principală a problemei este probabil mult mai complexă. „The Bias in the Machine” de la MIT Technology Review subliniază că sursa de date a AI este cea care provoacă multe disparități rasiale.

Articolul, care se concentrează pe tehnologiile de recunoaștere facială, a explicat că această tehnologie identifică adesea greșit suspecții afro-americani, deoarece baza de date nu are suficiente date de eșantion despre indivizii afro-americani.

ChatGPT își obține informațiile din conținut uman. Programatorii au încercat să se asigure că toate sursele de conținut sunt autorizate.

Din păcate, oamenii nu sunt perfecți și chiar și oamenii cu cele mai bune intenții au părtiniri inerente. În plus, unele forme de conținut nu conțin suficiente informații sau nuanțe.

Acesta este ceva la care utilizatorii vor trebui să aibă grijă când folosesc ChatGPT.

Măsurarea, detectarea și reducerea părtinirii în ChatGPT

ChatGPT este un instrument relativ nou. Va dura probabil timp pentru a reduce părtinirea inerentă a chatbot-ului. Cu toate acestea, există lucruri care pot fi făcute pentru a măsura, detecta și reduce părtinirea acesteia:

• Cercetarea atentă este întotdeauna necesară. Nu ar trebui să se bazeze niciodată exclusiv pe ChatGPT atunci când iei decizii importante. Folosiți exemple contrafactuale pentru a înțelege mai bine o situație sau un răspuns.
• Mulți oameni fac apel la OpenAI pentru a dezvălui algoritmul complex pe care ChatGPT îl folosește pentru a furniza informații. Acest lucru ar ajuta utilizatorii să înțeleagă cum funcționează programul și, mai important, cum oferă răspunsuri la întrebări complexe.
• ChatGPT este investigat pentru utilizarea datelor private sensibile. Țineți cont de acest lucru atunci când utilizați programul, deoarece acesta va afecta răspunsurile pe care le primiți. Deși datele personale pot ajuta programul să ofere răspunsuri precise, pot încălca și drepturile utilizatorilor. În plus, poate amplifica dezinformarea despre anumite grupuri.

Oficialii guvernamentali din Statele Unite și Europa se gândesc să reglementeze nu numai ChatGPT, ci și toată tehnologia AI.

Acest lucru ar avea probabil atât avantaje, cât și dezavantaje. Dacă sunteți îngrijorat de răspândirea informațiilor (și dezinformarea), veți dori să rămâneți la curent cu evoluțiile din acest domeniu.

Cum au abordat cu succes utilizatorii părtinirea în ChatGPT?

Recruitorul profesionist Jasmine Cheng oferă un exemplu bun de abordare a părtinirii ChatGPT. Ea folosește programul tot timpul și spune că îi economisește aproximativ 10 ore de muncă pe săptămână.

Cu toate acestea, ea stabilește și parametri clari pentru ChatGPT. În plus, ea verifică întotdeauna acuratețea fiecărei informații furnizate de chatbot.

Directorul regional Microsoft, Oleksandr Krakovetskyi, oferă sugestii suplimentare.

El explică că companiile care folosesc ChatGPT ar trebui să utilizeze descrieri de post neutre din punct de vedere al genului, să elimine cuvintele asociate cu un anumit gen și să se concentreze pe calificările educaționale.

Viitorul părtinirii în ChatGPT

ChatGPT este un instrument alimentat de AI și va avea întotdeauna limitări. Ea își obține informațiile din surse umane, iar sursele umane vor avea întotdeauna unele părtiniri inerente.

Cu toate acestea, părtinirile pot fi minimizate și atenuate în timp, deoarece guvernele, activiștii și dezvoltatorii lucrează împreună pentru a îmbunătăți ChatGPT și alte programe similare.

Acum ce?

Cel mai bine este să nu te bazezi doar pe conținutul generat de AI pentru nevoile afacerii tale.

AI este utilă pentru a vă ajuta să găsiți idei de creare de conținut, să personalizați marketingul și să anticipați comportamentul clienților. Cu toate acestea, doar un om are abilitățile de a efectua cercetări nuanțate, de a verifica faptele și de a crea conținut unic, imparțial, pentru a vă satisface nevoile.

WriterAccess oferă acces la zeci de mii de scriitori, editori și designeri independenți verificați și experimentați.

Această piață online gestionată oferă, de asemenea, instrumente AI și asistență de care aveți nevoie pentru a găsi persoana potrivită pentru orice loc de muncă.

Consultați versiunea noastră de încercare gratuită de 14 zile pentru a vedea cum vă putem ajuta să creați conținutul câștigător de care aveți nevoie pentru a vă construi reputația online și pentru a vă stimula afacerea.