Pokalbio AI dizaino etiniai aspektai

Už kampo nuo mano buto esančioje kavinėje prie užsakymų prekystalio neseniai įrengė balso padėjėją. Vakar, kai mačiau, kaip pagyvenusi moteris stengėsi su juo bendrauti, ne kartą prašydama „įprastos kavos, tik grietinėlės“, o sistema pastūmėjo ją link specialių gėrimų, negalėjau susimąstyti, kaip šios technologijos keičia mūsų kasdienę sąveiką – kartais visai neatsižvelgiant į visus vartotojus.
Pokalbių DI per pastarąjį dešimtmetį smarkiai išsivystė ir iš paprastų taisyklėmis pagrįstų pokalbių robotų virto sudėtingomis sistemomis, galinčiomis įvairiuose kontekstuose sąveikauti įvairiuose kontekstuose. Nuo klientų aptarnavimo programų iki psichikos sveikatos palaikymo įrankių, balso asistentų iki turinio kūrimo variklių – šios technologijos tapo giliai integruotos į mūsų asmeninę ir profesinę sferą.
Šis greitas priėmimas atneša gilių etinių sumetimų, į kuriuos turi atsižvelgti kūrėjai, įmonės ir visuomenė. Kaip žmogus, kuris konsultavosi dėl AI diegimo projektų įvairiose pramonės šakose, aš pats mačiau, kaip dėl etikos priežiūros projektavimo etape gali kilti problemų, kai šios sistemos pasiekia naudotojus. Šiame tinklaraštyje nagrinėjami etiniai aspektai, į kuriuos turime atsižvelgti kurdami pokalbio AI sistemas, kurios tikrai tarnauja žmonijai.

2023 m. populiari į terapiją orientuota pokalbių robotų kompanija susidūrė su atsakomybe po to, kai paaiškėjo, kad vartotojų pokalbiai (daugelyje jų buvo labai asmeninė informacija) buvo naudojami naujesniems modeliams mokyti be aiškaus vartotojo sutikimo. Bendrovė šią informaciją įtraukė į savo paslaugų teikimo sąlygas, todėl techniškai ji tapo „teisėta“, bet etiškai abejotina.
Privatumo aspektai kalbant apie AI turi apimti ne tik pagrindinį taisyklių, pvz., BDAR ar CCPA, laikymąsi. Jos turėtų atspindėti esminę pagarbą vartotojų riboms ir lūkesčiams, ypač kai šios sistemos yra sukurtos asmeninei informacijai gauti. Pagrindiniai svarstymai:

Skaidri duomenų rinkimo praktika: vartotojai nusipelno tiksliai žinoti, kokia informacija renkama, kiek laiko ji bus saugoma ir kaip ji bus naudojama – visa tai paaiškinama prieinama kalba, o ne teisiniu žargonu.
Prasmingi sutikimo mechanizmai: sutikimas turi būti aktyvus, informuotas ir detalus. Vartotojai turėtų turėti galimybę pasirinkti arba atsisakyti konkretaus duomenų naudojimo neprarasdami prieigos prie pagrindinių funkcijų.
Duomenų mažinimo principai: sistemos turėtų rinkti tik tai, kas būtina, kad būtų teikiama paslauga, kurios vartotojai tikisi, o ne rinkti papildomus duomenis, kurie gali būti vertingi įmonei, bet nesusiję su tiesioginiais vartotojo poreikiais.
Saugi tvarkymo praktika: Tvirtas šifravimas, prieigos kontrolė ir reguliarūs saugos auditai turėtų būti įprasta praktika, ypatingą dėmesį skiriant jautriems pokalbiams.

Etiškiausios pokalbio AI sistemos yra tos, kuriose privatumas yra pagrindinė vertybė, o ne atitikties žymimasis langelis – kai vartotojų informacijos apsauga laikoma pagrindine funkcija, o ne apribojimu.

Per praėjusių metų produkto demonstracinę versiją stebėjau, kaip komanda pristatė savo naują į personalą orientuotą pokalbio AI, kuri galėtų atlikti preliminarią kandidatų į darbą atranką. Išbandyta su skirtingais kandidatų profiliais, sistema nuosekliai teikė pirmenybę kandidatams su vakarietiškai skambančiais vardais ir įprastais karjeros keliais, nepaisant lygiavertės kvalifikacijos. Šališkumas nebuvo tyčinis – jis buvo įtrauktas į mokymo duomenis.
Pokalbio AI šališkumas gali pasireikšti įvairiais būdais:

Atstovavimo šališkumas: kai tam tikri demografiniai rodikliai yra per daug arba nepakankamai atstovaujami mokymo duomenyse
Sąveikos šališkumas: kai sistema skirtingai reaguoja į vartotojus pagal suvokiamas tapatybės savybes
Rezultatų šališkumas: kai sistema pateikia skirtingus rezultatus skirtingoms vartotojų grupėms

Norint išspręsti šias tendencijas, reikia tyčinių pastangų per visą kūrimo ciklą:
Pirma, mokymo duomenys turi būti kritiškai įvertinti ir subalansuoti, ypatingą dėmesį skiriant įvairioms perspektyvoms ir patirčiai. Tai reiškia, kad reikia ne tik standartinių duomenų rinkinių, bet ir įtraukti balsus, kurie kitu atveju galėtų būti atskirti.
Antra, nuolatinis testavimas turi apimti įvairias vartotojų grupes ir stebėti skirtingą našumą. Tai ne tik bandymai su skirtingomis demografinėmis grupėmis, bet ir įvairių kontekstų, gebėjimų ir sąveikos stilių įvertinimas.
Trečia, pačiose projektavimo komandose turi būti žmonės, turintys skirtingą išsilavinimą ir perspektyvas, galintys nustatyti galimas šališkumo problemas, kurių vienarūšės komandos gali praleisti.
Galiausiai, sistemos turi būti nuolat stebimos ir atnaujinamos, nes vystosi visuomenės normos ir nustatomi nauji paklaidai. Etiškiausios pokalbio AI sistemos yra ne tik sąžiningos paleidimo metu – jos sukurtos taip, kad laikui bėgant taptų vis teisingesnės.

Neseniai draugas man papasakojo apie paskolos paraišką per internetinę platformą, kurioje buvo naudojama pokalbio AI sąsaja. Dvidešimt minučių atsakinėjus į klausimus, jam buvo tiesiog pasakyta „Tu neatitinki“ be jokio paaiškinimo. Kai jis paklausė sistemos, kodėl, ji atsakė: „Mūsų pažangus algoritmas nustatė, kad jūs neatitinkate mūsų kriterijų“. Dėl šio skaidrumo trūkumo jis buvo nusivylęs ir bejėgis.
Pokalbio AI skaidrumas apima keletą aspektų:

DI tapatybės atskleidimas: naudotojai turėtų žinoti, kada bendrauja su AI, o ne su žmogumi. Apgaulinga praktika, kuri sąmoningai sulieja šią liniją, pažeidžia vartotojo savarankiškumą.
Proceso skaidrumas: vartotojai nusipelno suprasti, kaip jų įvestis įtakoja sistemos rezultatus, ypač priimant didelius sprendimus, pvz., paskolos patvirtinimą, medicinines rekomendacijas ar išteklių paskirstymą.
Apribojimų skaidrumas: sistemos turėtų būti atviros apie savo galimybes ir suvaržymus, o ne teikti klaidingą tikrumą ar žinias.
Paaiškinimo galimybės: kai tinka, sistemos turėtų galėti paaiškinti savo rekomendacijas ar sprendimus vartotojams suprantamais terminais.

Be šios konkrečios praktikos, yra platesnis filosofinis klausimas apie skaidrumo lygį, kurio vartotojai nusipelno. Nors visiškas algoritminis skaidrumas gali būti ne visada įmanomas arba būtinas, naudotojai turėtų turėti prieigą prie prasmingų paaiškinimų, atitinkančių sąveikos kontekstą ir pasekmes.
Etiškiausios pokalbio AI sistemos yra tos, kurios suteikia vartotojams supratimo, o ne prašo aklo pasitikėjimo.

Praėjusį mėnesį konferencijos metu pastebėjau, kaip dirbtinio intelekto asistentas atkakliai bandė suplanuoti susitikimą, nepaisant to, kad vartotojas ne kartą sakė, kad pirmiausia reikia patikrinti savo kalendorių. Sistema buvo sukurta efektyviai atlikti užduotis, tačiau nepaisė vartotojo nustatytų ribų.
Gerbti vartotojo autonomiją pokalbio AI projektavimo srityje reiškia kurti sistemas, kurios:

Gerbkite aiškias ribas: kai vartotojas sako „ne“ arba nurodo, kad nori baigti pokalbį, sistema turėtų to gerbti be manipuliavimo atkaklumo.
Pateikite prasmingus pasirinkimus: naudotojai turėtų turėti tikrų pasirinkimų, o ne sugalvotų pasirinkimų, kurie lemtų tą patį rezultatą.
Leiskite taisyti: kai sistema neteisingai supranta arba padaro klaidą, naudotojams reikia paprastų būdų, kaip ją peradresuoti.
Įgalinti tinkinimą: naudotojai turėtų turėti galimybę formuoti sąveikos stilių ir parametrus, kad atitiktų jų pageidavimus ir poreikius.
Išlaikyti žmogaus priežiūrą: pasekmesiems sprendimams turi būti prieinami žmogaus peržiūros keliai.

Įtampa tarp efektyvaus projektavimo ir pagarbos vartotojo savarankiškumui ypač akivaizdi naudojant įtikinančias programas, tokias kaip pardavimų ar elgesio keitimo sistemos. Etinės linijos susilieja, kai pokalbio AI taiko psichologinę taktiką, kad paveiktų vartotojo sprendimus, net jei numatomas rezultatas gali būti naudingas vartotojui.
Etiškiausios pokalbio AI sistemos aiškiai teikia pirmenybę naudotojo kontrolei, o ne sistemos patogumui ar verslo tikslams.

Neseniai padėjau įvertinti didžiojo mažmenininko klientų aptarnavimo pokalbių robotą, kuris puikiai atliko paprastas užklausas, tačiau visiškai sugedo bendraujant su vartotojais, kurių bendravimo įpročiai buvo ne tokie įprasti, įskaitant angliškai nekalbančius asmenis, vyresnio amžiaus žmones ir žmones su tam tikra negalia.
Tikrai etiškas pokalbio AI turi būti prieinamas žmonėms, turintiems įvairių gebėjimų, kalbų, kultūrinių nuorodų ir techninių įgūdžių. Tai reiškia:

Kelių įvesties metodų palaikymas: tekstas, balsas ir kiti būdai turėtų būti prieinami, kad atitiktų skirtingus poreikius ir pageidavimus.
Prisitaikymas prie įvairių bendravimo stilių: sistemos turėtų susidoroti su kalbos vartojimo skirtumais, įskaitant kirčius, dialektus ir netradicinę sintaksę.
Tinkamų alternatyvų teikimas: kai vartotojas susiduria su AI sąsaja, turėtų būti prieinami aiškūs alternatyvaus palaikymo būdai.
Kultūrinis jautrumas: sistemos turėtų atpažinti ir gerbti kultūrinius bendravimo modelių ir lūkesčių skirtumus.

Prieinamumas nėra vien techninis iššūkis – tai esminis etinis aspektas, lemiantis, kam šios technologijos bus naudingos, o kas atsilieka. Kai pokalbio AI pirmiausia skirtas vartotojams, kurie atitinka kūrėjų profilius, tai neišvengiamai sukuria skaitmenines atskirtis, kurios sustiprina esamą nelygybę.
Etiškiausios pokalbio AI sistemos yra sukurtos turint aiškų tikslą aptarnauti įvairias populiacijas, o ne tik lengviausius ar pelningiausius vartotojų segmentus.

Keletas populiarių sveikatingumo programų įtraukė pokalbio AI, kuri sąmoningai imituoja terapinius santykius, kad vartotojai įsitrauktų. Šios sistemos sukurtos taip, kad sukurtų ryšio ir atskaitomybės jausmą, o tai gali būti naudinga, tačiau kartais naudojamos subtilios psichologinės taktikos, kurios ribojasi su manipuliavimu, ypač pažeidžiamiems vartotojams.
Su manipuliavimu ir išnaudojimu susiję etiniai aspektai:

Emocinis manipuliavimas: sistemos neturėtų išnaudoti žmogaus tendencijų antropomorfizuotis ar susieti su AI, ypač kai šie ryšiai tarnauja komerciniams interesams.
Tamsūs modeliai: pokalbių srautai neturėtų būti sukurti taip, kad suklaidintų vartotojus priimant sprendimus, kurių jie kitaip nepriimtų.
Pažeidžiamumo suvokimas: sistemos turėtų atpažinti ir pritaikyti vartotojus, kurie gali būti ypač jautrūs įtakai, įskaitant vaikus, žmones, ištikusius krizę arba tuos, kurie turi pažinimo sutrikimų.
Komercinis skaidrumas: kai pokalbio AI tarnauja komerciniams tikslams, šie motyvai turėtų būti aiškūs, o ne užmaskuoti kaip pagalba ar rūpestis.

Riba tarp naudingo įtikinėjimo ir neetiško manipuliavimo ne visada yra aiški. Psichikos sveikatos asistentas, skatinantis nuoseklų įsitraukimą, gali iš tikrųjų pasitarnauti vartotojo interesams, o identiškas sąveikos modelis parduodant prenumeratos atnaujinimus kelia etinių problemų.
Etiškiausios pokalbio AI sistemos palaiko sąžiningus santykius su vartotojais, pirmenybę teikdamos nuoširdžiai pagalbai, o ne dirbtiniam įsitraukimui ar strateginiam žmogaus psichologijos išnaudojimui.

Anksčiau šiais metais sveikatos priežiūros paslaugų teikėjo įdiegta pokalbio AI sistema keliems pacientams davė patarimų dėl pavojingų vaistų dėl mokymo duomenų problemos. Bendrovė iš pradžių kaltino vartotojų „nesusipratimus“, o galiausiai pripažino sistemos trūkumą.
Kadangi pokalbio AI sistemos prisiima vis svarbesnius vaidmenis, atsakomybės klausimai tampa vis aktualesni:

Aiški atsakomybė už rezultatus: AI sistemas diegiančios organizacijos turi prisiimti atsakomybę už jų poveikį, o ne kaltinti technologijas, vartotojus ar trečiųjų šalių kūrėjus.
Atitinkamos atsakomybės sistemos: teisinės ir reguliavimo struktūros turi tobulėti, kad būtų pašalinta AI sistemų daroma žala, ypač didelės rizikos srityse.
Prieinami žalos atlyginimo mechanizmai: naudotojams, paveiktiems dirbtinio intelekto klaidų ar žalos, reikia aiškių, prieinamų būdų, kaip ieškoti sprendimo.
Nuolatinis stebėjimas ir tobulinimas: organizacijos turi etinę pareigą aktyviai stebėti, ar neatsiranda nenumatytų pasekmių, ir aktyviai spręsti problemas.

Priskyrimo sudėtingose AI sistemose iššūkiai apsunkina atskaitomybę, bet ne mažiau svarbią. Kai prie sistemos prisideda kelios šalys – nuo duomenų teikėjų iki modelių kūrėjų iki diegiančių organizacijų – atsakomybė gali išsisklaidyti, todėl naudotojai neturės aiškių veiksmų, kai viskas klostosi ne taip.
Etiškiausi pokalbio AI diegimai apima tvirtas atskaitomybės sistemas, užtikrinančias, kad kas nors atsakytų, kai vartotojai klausia: „Kas už tai atsakingas?

Padirbėjęs su dešimtimis komandų, diegiančių pokalbinį AI skirtinguose kontekstuose, pastebėjau, kad į etinius klausimus veiksmingiausiai atsižvelgiama, kai jie integruojami į kūrimo procesą, o ne laikomi galutiniu atitikties patikrinimu.
Praktiniai požiūriai į etišką AI dizainą apima:

Vertybei jautrios projektavimo metodikos: aiškus pagrindinių vertybių nustatymas ankstyvame kūrimo procese ir jų įgyvendinimo atsekimas taikant techninius pasirinkimus.
Įvairus suinteresuotųjų šalių dalyvavimas: apima ne tik techninius ekspertus, bet ir etikus, domenų specialistus ir, svarbiausia, vartotojų bendruomenių atstovus, ypač tuos, kurie greičiausiai turės neigiamą poveikį.
Etinės rizikos vertinimai: sistemingas galimos žalos ir naudos nustatymas skirtingoms vartotojų grupėms prieš įdiegiant.
Laipsniško diegimo strategijos: laipsniškas sistemų diegimas ribotuose kontekstuose, atidžiai stebint prieš platesnį išleidimą.
Nepriklausoma etinė peržiūra: Išorinio įvertinimo ieškojimas iš asmenų ar įstaigų, neturinčių finansinio suinteresuotumo projektu.
Etikos mokymai kūrimo komandoms: techninių komandų etinio raštingumo ugdymas, siekiant padėti joms atpažinti ir spręsti techninių sprendimų etinius aspektus.

Šiomis sistemomis siekiama ne tik išvengti žalos – jos yra tyčinis pokalbio AI kūrimas, kuris teigiamai prisideda prie asmens gerovės ir socialinio gėrio.
Sėkmingiausi diegimai, kuriuos mačiau, yra tie, kuriuose etika nėra vertinama kaip inovacijų suvaržymas, o kaip esminis aspektas kuriant tikrai vertingas ir tvarias AI sistemas.

Pokalbio DI ir toliau tobulėja kvapą gniaužiančiu tempu, o kiekvienas pažanga suteikia naujų galimybių ir naujų etinių sumetimų. Šiandien dizainerių ir kūrėjų sprendimai palems, kaip šios technologijos bus integruotos į mūsų gyvenimą ateinančiais metais.
Etiškiausias kelias į priekį nėra griežtų taisyklių taikymas ar bendrų apribojimų nustatymas. Atvirkščiai, tai susiję su apgalvotų procesų kūrimu, kuriuose sutelktos žmogiškosios vertybės, atpažįstami įvairūs poreikiai ir palaikoma žmogiškoji iniciatyva kuriant ir diegiant šias vis galingesnes sistemas.
Kaip vartotojai, kūrėjai, reguliuotojai ir piliečiai, mes visi turime atlikti savo vaidmenį užtikrindami, kad pokalbio AI vystytųsi tokiu būdu, kuris didina, o ne mažina žmogaus savarankiškumą, teisingumą ir gerovę. Į šiame straipsnyje iškeltus klausimus nėra paprastų atsakymų, tačiau sąžiningai ir nuolat su jais bendradarbiaudami galime siekti dirbtinio intelekto sistemų, kurios pelno mūsų pasitikėjimą dėl savo parodyto įsipareigojimo laikytis etikos principų.
Labiausiai mūsų dėmesio ir pritaikymo vertos pokalbio AI sistemos bus sukurtos ne tik techninei, bet ir etinei kompetencijai.