Arbeta för utvecklingen av mer inkluderande, rättvis och rättvis teknik
Maria Antonia Huertas Sánchez från UOC – Universitat Oberta de Catalunya ger oss i sin artikel en förklaring till varför vi bör införliva en genusvision inom robotik och artificiell intelligens genom att kombinera begreppet epistemologi med definitionen av artificiell intelligens.
Epistemologi hänvisar till “teorin om grunderna och metoderna för vetenskaplig kunskap.”
Med andra ord handlar det om “giltigheten” av den process som bygger vetenskaplig kunskap, det vill säga kunskap som utsätts för den vetenskapliga metodikens precisions- och objektivitetskrav.
Å andra sidan är “artificiell intelligens” den vetenskapliga disciplin som sysslar med att skapa datorprogram som utför operationer liknande de som utförs av det mänskliga sinnet, såsom inlärning och logiska resonemang.
När vi kombinerar båda begreppen kan vi bekräfta att den artificiella intelligensens epistemologi handlar om giltigheten av de procedurer som används för att erhålla datorprogram som simulerar mänsklig intelligens.
men,hur vi kom fram till behovet av att införliva ett genusperspektiv i AI? När vi analyserar innebörden av feminism i vokabulären finner vi att den syftar på “principen om lika rättigheter mellan män och kvinnor”.
Nu är AI i sig inte i sig sexistisk, men den kan lära sig och återspegla de fördomar som finns i data den tränas på. AI-algoritmer, inklusive maskininlärningsmodeller, lär sig mönster och gör förutsägelser baserat på mönstren som finns i data de har tränats på. Om träningsdata innehåller fördomar eller återspeglar sociala fördomar, kan AI-systemet oavsiktligt förstärka och vidmakthålla dessa fördomar.
Till exempel, om ett AI-system tränas på en datamängd som huvudsakligen består av partisk eller diskriminerande information, såsom historiska data som återspeglar ojämlikhet mellan könen, kan AI-systemet lära sig och reproducera dessa fördomar när man fattar beslut. eller ge rekommendationer.
Det är viktigt att inse att AI-system bara är lika opartiska som den data de tränas på och hur de är designade och utvecklade. AI-bias är resultatet av partisk data och beslut som fattas under utvecklings- och utbildningsprocessen. Ansträngningar görs för att utveckla mer mångsidiga och representativa utbildningsdatauppsättningar, förbättra datamärkningsprocesser och tillämpa rättvisa åtgärder i AI-algoritmer för att mildra partiskhet och främja rättvisa.
Att ta itu med och mildra fördomar i AI är en ständig utmaning och kräver en kombination av noggrant dataurval, olika och inkluderande utvecklingsteam och robusta utvärderingsprocesser för att säkerställa rättvisa och minska risken för att vidmakthålla sexism eller andra former av partisk diskriminering.
Varför är feministisk epistemologi relevant inom området artificiell intelligens?
Det är viktigt att undersöka denna fråga genom ett belysande exempel:
Tay var en artificiell intelligens designad för att lära sig genom att läsa tweets och interagera med andra användare på Twitter-plattformen. Programmerarna beskrev henne som “smartare ju mer hon pratar”.
Men inom några timmar började Tay posta sexistiska och rasistiska meddelanden, vilket ledde till att hon blev offline av Microsoft. Till en början försökte Microsoft tillskriva detta en 4chan-attack, men detta kunde aldrig bevisas.
Vad exakt hände?
Tay var programmerad att bearbeta och generera data från Twitter-användares konversationer, särskilt de mellan 18 och 24 år, för att förfina sitt språk och anpassa sig till millenniegenerationens attityder och anlag för att framstå som mer mänsklig. Men var denna inlärningsmetod giltig för att få en artificiell intelligens fri från sexistiska och rasistiska fördomar? Uppenbarligen inte, eftersom det faktum att Twitter-innehåll inte garanterade den nödvändiga jämställdheten förbises.
Vi hittar liknande fall i humanoida robotar som Valkyrie, designad av NASA för att klara extrema temperaturer och överleva i fientliga miljöer för människor, och i Sophia, den mest avancerade AI-roboten utvecklad av Hanson Robotics för att hjälpa till inom områden som medicin och utbildning. Båda robotarna uppvisar egenskaper som stereotypa kvinnor.
I dessa och liknande fall uppvisar dessa “kvinnliga” robotar ofta en överdriven sexualisering som är onödig för deras funktionalitet.
Vilken aspekt av byggprocessen har lett till det resultatet?
Enligt Lucy Suchman, citerad av Erika Hayasaki i hennes artikel Is AI Sexist?” (2017) finns det ett element i feministisk epistemologi som ger en förklaring: “För vissa designers blir genusrobotar ett maskulint projekt att på konstgjord väg skapa till det perfekta kvinna.”
I båda exemplen ovan är den sexistiska komponenten inbäddad i den hegemoniska patriarkala kulturen “osynlig” för många av formgivarna, särskilt om de är män (och ofta även om de är kvinnor, eftersom sexism är en strukturell del av vår kultur).
Feministisk epistemologi skulle ha tillhandahållit de nödvändiga linserna för att göra detta problem synligt och tillåta analys av giltigheten eller ogiltigheten av en procedur för att få robotar fria från könsfördomar.
Slutsatser
Sammanfattningsvis är det väsentligt och nödvändigt att anta ett genusperspektiv inom området robotik och artificiell intelligens (AI). Detta perspektiv gör det möjligt att känna igen och ta itu med potentiella fördomar och orättvisor som kan uppstå i utvecklingen, implementeringen och användningen av dessa teknologier.
Här är några anledningar till varför ett genusperspektiv är avgörande inom robotik och AI:
1. Identifiering och begränsning av fördomar: AI-system kan oavsiktligt vidmakthålla och förstärka könsfördomar som finns i data de tränas på. Att anta ett genusperspektiv hjälper till att identifiera och förstå dessa fördomar, vilket gör det möjligt för forskare och utvecklare att aktivt arbeta för att mildra dem.
2. Inkluderande design: Att ta hänsyn till genusperspektivet främjar inkluderande designpraxis. Detta innebär att förstå de olika behoven, preferenserna och erfarenheterna för olika kön och att se till att AI-tekniker utvecklas för att möta dessa skillnader. På så sätt kan AI-system bli mer inkluderande och tillgängliga för alla användare.
3. Könsbaserad konsekvensanalys: Genusperspektivet hjälper till att bedöma AI-teknikens möjliga inverkan på olika kön. Det gör det möjligt att undersöka hur AI-system kan påverka jämställdhet, sociala normer och maktdynamik. Denna bedömning kan vägleda utvecklingen av policyer och riktlinjer som främjar rättvisa resultat.
4. Representation och mångfald: Att främja ett genusperspektiv inom robotik och AI främjar en mångsidig representation inom detta område. Det innebär deltagande av människor av olika kön i design- och utvecklingsprocessen, vilket säkerställer att ett brett spektrum av perspektiv och erfarenheter beaktas.
5. Etiska överväganden: Genusperspektivet tillför en etisk dimension till utvecklingen av AI. Det väcker diskussioner om implikationerna av AI-teknik för integritet, samtycke, autonomi och mänskliga rättigheter, särskilt i relation till genusfrågor. Denna hänsyn är avgörande för ansvarsfull AI-utveckling.
I slutändan, genom att införliva ett genusperspektiv i robotik och AI, kan vi arbeta för utvecklingen av mer inkluderande, rättvisa och rättvisa teknologier som tillgodoser alla människors olika behov och erfarenheter, oavsett kön.
Vad är din åsikt?
Projekt
