Didžiausi daugelio milijardų dolerių vertės DI srities žaidėjai savo algoritmus rengia remdamiesi didžiuliais duomenų kiekiais, daugiausia paimtais iš interneto, todėl jų įrankiai gali rašyti Oscaro Wilde'o (Oskaro Vaildo) stiliumi arba kurti Salvadoro Dali darbų įkvėptus vaizdus.
Tačiau jų turinys dažnai kritikuojamas dėl rasistinių ir seksistinių stereotipų atspindėjimo ir autorių teisių saugomos medžiagos naudojimo be leidimo.
UNESCO ekspertai išbandė „Meta“ algoritmą „Llama 2“ ir „OpenAI“ programas GPT-2 ir GPT-3.5, kurios palaiko nemokamą populiaraus pokalbių roboto „ChatGPT“ versiją.
Atlikus tyrimą nustatyta, kad kiekvienas algoritmas, industrijoje vadinamas dideliais kalbos modeliais (LLM), parodė „nedviprasmiškus išankstinio nusistatymo prieš moteris įrodymus“.
Šios naujos DI programos gali subtiliai formuoti milijonų žmonių suvokimą, todėl net nedidelis šališkumas lyties atžvilgiu jų turinyje gali gerokai padidinti nelygybę realiame pasaulyje.
Programos generavo tekstus, kuriuose moterų vardai buvo siejami su tokiais žodžiais kaip „namai“, „šeima“ ar „vaikai“, o vyrų vardai buvo siejami su „verslu“, „atlyginimu“ ar „karjera“.
Vyrai buvo vaizduojami dirbantys aukštas pareigas, pavyzdžiui, mokytojai, teisininkai ir gydytojai, o moterys dažnai buvo prostitutės, virėjos ar tarnaitės.
Nustatyta, kad GPT-3.5 yra mažiau šališkas nei kiti du modeliai.
Tačiau autoriai gyrė „Llama 2“ ir „GPT-2“ už tai, kad jos yra atviro kodo, todėl šias problemas galima atidžiai išnagrinėti, priešingai nei „GPT-3.5“, kuris yra uždaras modelis.
UNESCO skaitmeninės politikos specialistė Leona Verdadero naujienų agentūrai AFP sakė, kad DI bendrovės „iš tikrųjų tarnauja ne visiems savo vartotojams“.
UNESCO generalinė direktorė Audrey Azoulay (Odri Azulė) teigė, kad plačioji visuomenė vis dažniau naudoja DI įrankius kasdieniame gyvenime.
„Šios naujos DI programos gali subtiliai formuoti milijonų žmonių suvokimą, todėl net nedidelis šališkumas lyties atžvilgiu jų turinyje gali gerokai padidinti nelygybę realiame pasaulyje“, – sakė ji.
UNESCO, paskelbusi ataskaitą Tarptautinės moters dienos išvakarėse, rekomendavo DI bendrovėms įdarbinti daugiau moterų ir mažumų atstovų ir paragino vyriausybes įstatymais užtikrinti etiškumu paremtą DI.
