Arbeta för utvecklingen av mer inkluderande, rättvis och rättvis teknik
I sin artikel ger Maria Antonia Huertas Sánchez från UOC – Universitat Oberta de Catalunya en förklaring till varför vi bör införliva en genusvision inom robotik och artificiell intelligens genom att kombinera begreppet epistemologi med definitionen av artificiell intelligens.
Epistemologi hänvisar till “teorin om grunderna och metoderna för vetenskaplig kunskap”. Med andra ord, det handlar om “giltigheten” av den process som konstruerar vetenskaplig kunskap, dvs kunskap som är föremål för kraven på precision och objektivitet som är lämpliga för vetenskaplig metodik.
Å andra sidan, “artificiell intelligens” är den vetenskapliga disciplin som handlar om skapandet av datorprogram som utför operationer som liknar de som utförs av det mänskliga sinnet, såsom inlärning och logiska resonemang.
När vi kombinerar båda begreppen kan vi konstatera att den artificiella intelligensens epistemologi handlar om giltigheten av de procedurer som används för att erhålla datorprogram som simulerar mänsklig intelligens.
Men hur kom vi fram till behovet av att införliva ett genusperspektiv i AI? Genom att analysera innebörden av feminism i vokabulären finner vi att den syftar på “principen om lika rättigheter mellan män och kvinnor”.
Nu är AI i sig inte i sig sexistiskt, men det kan lära sig och återspegla fördomar som finns i data den tränas på. AI-algoritmer, inklusive maskininlärningsmodeller, lär sig mönster och gör förutsägelser baserat på mönster som finns i den data de tränas på. Om träningsdata innehåller fördomar eller återspeglar sociala fördomar, kan AI-systemet oavsiktligt förstärka och vidmakthålla dessa fördomar.
Till exempel, om ett AI-system tränas på en datauppsättning som huvudsakligen består av partisk eller diskriminerande information, såsom historiska data som återspeglar ojämlikhet mellan könen, kan AI-systemet lära sig och reproducera dessa fördomar när de fattar beslut eller ger rekommendationer.
Det är viktigt att inse att AI-system bara är lika opartiska som den data de tränas på och hur de är designade och utvecklade. Bias i AI är resultatet av partisk data och beslut som fattas under utvecklings- och utbildningsprocessen. Ansträngningar pågår för att utveckla mer mångsidiga och representativa utbildningsdatauppsättningar, förbättra datamärkningsprocesser och tillämpa rättvisa åtgärder i AI-algoritmer för att mildra partiskhet och främja rättvisa.
Att ta itu med och mildra fördomar i AI är en ständig utmaning och kräver en kombination av noggrant dataurval, olika och inkluderande utvecklingsteam och robusta utvärderingsprocesser för att säkerställa rättvisa och minska risken för att vidmakthålla sexism eller andra former av diskriminering.
Varför är feministisk epistemologi relevant för området artificiell intelligens?
Det är viktigt att undersöka denna fråga genom ett belysande exempel:
Tay var en artificiell intelligens designad för att lära sig genom att läsa tweets och interagera med andra användare på Twitter-plattformen. Programmerarna beskrev det som “smartare ju mer det pratar.”
Men inom några timmar började Tay posta sexistiska och rasistiska meddelanden, vilket ledde till att Microsoft kopplade bort det. Microsoft försökte först att tillskriva detta till en 4chan-attack, men det kunde aldrig bevisas.
Vad exakt hände?
Tay programmerades att bearbeta och generera data från konversationer från Twitter-användare, särskilt de mellan 18 och 24 år, för att förfina sitt språk och anpassa sig till millenniegenerationens attityder och anlag för att framstå som mer mänskligt. Men var denna inlärningsmetod giltig för att få en artificiell intelligens fri från sexistiska och rasistiska fördomar? Uppenbarligen inte, eftersom det förbisåg det faktum att Twitters innehåll inte garanterade den nödvändiga jämställdheten.
Vi hittar liknande fall i humanoida robotar som Valkyrie, designad av NASA för att klara extrema temperaturer och överleva i miljöer som är fientliga mot människor, och Sophia, den mest avancerade AI-roboten utvecklad av Hanson Robotics för att hjälpa till inom områden som medicin och utbildning . Båda robotarna uppvisar egenskaper som stereotyper av kvinnor.
I dessa och liknande fall uppvisar dessa “kvinnliga” robotar ofta en överdriven sexualisering som är onödig för deras funktionalitet.
Vilken aspekt av byggprocessen har lett till detta resultat?
Enligt Lucy Suchman, citerad av Erika Hayasaki i hennes artikel Is Is AI Sexist?” (2017) finns det ett element i feministisk epistemologi som erbjuder en förklaring: “För vissa designers blir könsbaserade robotar ett manligt projekt för att på konstgjord väg skapa det perfekta kvinna.”
I båda ovanstående exempel är den sexistiska komponenten med rötter i den hegemoniska patriarkala kulturen “osynlig” för många av formgivarna, särskilt om de är män (och ofta, även om de är kvinnor, eftersom sexism är en strukturell del av vår kultur ).
Feministisk epistemologi skulle ha tillhandahållit de nödvändiga linserna för att göra detta problem synligt och tillåta analysen av giltigheten eller ogiltigheten av en procedur för att få robotar fria från könsfördomar.
Slutsatser
Vi kan dra slutsatsen att ett genusperspektiv inom robotik och artificiell intelligens (AI) är avgörande och nödvändigt. Genusperspektiv hjälper till att erkänna och ta itu med de potentiella fördomar och ojämlikheter som kan uppstå vid utveckling, implementering och användning av AI-teknik.
Här är några anledningar till varför ett genusperspektiv behövs inom robotik och AI:
1. Identifiering och begränsning av partiskhet: AI-system kan oavsiktligt vidmakthålla och förstärka existerande könsfördomar som finns i den data de tränas på. Ett genusperspektiv möjliggör identifiering och förståelse av dessa fördomar, vilket gör det möjligt för forskare och utvecklare att aktivt arbeta för att mildra dem.
2. Inkluderande design: Att överväga ett genusperspektiv uppmuntrar inkluderande designpraxis. Det innebär att förstå de olika behoven, preferenserna och erfarenheterna hos olika kön och att säkerställa att AI-tekniker utvecklas för att tillgodose dessa skillnader. Genom att göra det kan AI-system bli mer inkluderande och tillgängliga för alla användare.
3. Könsbaserade konsekvensanalysert: Ett genusperspektiv hjälper till att bedöma den potentiella effekten av AI-teknik på olika kön. Det möjliggör undersökning av hur AI-system kan påverka jämställdhet, samhälleliga normer och maktdynamik. Denna bedömning kan vara underlag för utvecklingen av policyer och riktlinjer som främjar rättvisa resultat.
4. Representation och mångfald: Att uppmuntra ett genusperspektiv inom robotik och AI främjar mångsidig representation i fältet. Det uppmuntrar engagemang av individer från olika kön i design- och utvecklingsprocessen, vilket säkerställer att ett brett spektrum av perspektiv och erfarenheter beaktas.
5. Etiska överväganden: Ett genusperspektiv tillför en etisk dimension till AI-utveckling. Det föranleder diskussioner om implikationerna av AI-teknik på integritet, samtycke, autonomi och mänskliga rättigheter, särskilt när det gäller könsrelaterade frågor. Denna hänsyn är avgörande för en ansvarsfull och ansvarsfull AI-utveckling.
Genom att införliva ett genusperspektiv i robotik och AI kan vi arbeta för att utveckla mer inkluderande, rättvisa och rättvisa teknologier som tillgodoser de olika behoven och erfarenheterna hos alla individer, oavsett kön.
relaterade inlägg
7 häpnadsväckande nya användningsområden för maskininlärning
Nyligen väckte en konstig video som publicerades på YouTube en kontrovers – det var en rolig version av drottning Elizabeths traditionella julbudskap skapad av Channel 4, en brittisk public-service TV-sändare. De…
Vad är DNS Blockchain och hur man använder det
För att kunna navigera på Internet, komma in på en webbplats och få den att visa oss allt innehåll vi vill ha och söka efter, är vissa funktioner och egenskaper nödvändiga…
GAN-genererade bilder
Låt oss spela ett spel – kan du gissa vad dessa porträtt har gemensamt? De föreställer alla icke-existerande människor. Alla dessa bilder skapades av artificiell intelligens. Vi skulle kunna säga att…
Hur använder företag artificiell intelligens?
Termen artificiell intelligens (AI), “maskinernas intelligens”, förenar två ord som a priori inte kunde associeras, eftersom termen intelligens tillskrivs fakulteten för…
Vad är ursprunget till ordet SPAM?
Det är 40 år sedan det första spam-mejlet skickades. De flesta av läsarna av denna blogg hade säkert inte fötts ännu, liksom irriterande mail som vi bombarderas med i…
projekt
