En Google-anställd hävdar att ett av företagets artificiella intelligenssystem är medvetet, och nyheterna studsar runt i världens media. Är han galen eller upplyst?
Det var förra månadens nyheter: Blake Lemoine, en ingenjör som arbetar för Googles “AI ansvarig“, hävdar att ett av de artificiella intelligenssystemen (AI) som studerats av företaget har blivit självmedvetet. “Om jag inte visste exakt vad det var, skulle jag tro att jag pratade med en 7-8-åring barn som förstår fysik,” förklarar Lemoine för Washington Post, den första tidningen som gav scoop.
I synnerhet syftar Lemoine på LaMDA, en chatbot, dvs programvara som “mänskliga” användare kan interagera med – genom skriftlig och talad kommunikation – som om de kommunicerade med en verklig person. Google skyndade sig att förneka nyheten och stängde av den anställde – officiellt för att ha skickat interna företagsdokument till en amerikansk senator.
Är det här bara en galning eller är det maskiner som verkligen tar över, i ett slags Matrixliknande verklighet?
fullständiga versionen av intervjun:
Är LaMDA Sentient? – en intervju
EN VISIONÄR? Washington Post sätter rekordet rakt: “Blake Lemoine var kanske förutbestämd att tro på LaMDA”, skriver man. “Uppvuxen på en liten gård i Louisiana inom en konservativ kristen familj, blev han en mystisk präst och gick sedan med i armén.”
Den korta beskrivningen verkar vara avsedd att förmedla Lemoine som en vandrare benägen till godtrogenhet.
Men är det verkligen så?
Från kommentaren som ingenjören gör på Medium till artikeln i Washington Post kommer ett tvivel att tänka på: “Artikeln fokuserade på mig, men jag tror att det hade varit bättre om den hade fokuserat på en av de andra personerna som intervjuades – LaMDA.” säger han och anpassar AI:n.
BÄTTRE FÖRSTÅELSE. Lite längre fram erkänner dock Lemoine att han inte är någon expert på ämnet: hans uppgift var att kontrollera att chatboten inte använde diskriminerande språk eller skickade hatmeddelanden, men han vet inte tekniskt hur LaMDA fungerar.
Därför, hävdar han, “för att bättre förstå vad som händer i systemet bör vi fråga flera kognitiva experters åsikt och genomföra ett rigoröst testprogram”. Men, hävdar Lemoine, Google är inte intresserad av att gräva djupt i frågan: “de vill lansera produkten på marknaden, och i den här situationen har de allt att förlora”.
RISKERNA MED ANTROPOMORFISERING IA. Lemoine kan därför ha blivit förvirrad av språkkunskaperna hos AI, som han har “konverserat” med i månader, antropomorfierat datorsystemet: detta är en risk som är väl förstått av de som arbetar på fältet, och en som kan bli ett allvarligt problem i framtiden. Redan nu har vi en tendens att prata med Siri eller Alexa som om de vore riktiga människor, och att ställa frågor till dem som vi skulle ställa till en vän (“Gillar du mig?” “Hur mår du idag?”) – men för nu vi gör detta medvetet och för skojs skull.
I en studie om LaMDA som publicerades i januari förra året varnade Google själv för risken att människor delar privata och personliga tankar med chatbotar i framtiden:
AI-svar kommer att vara så förfinade att de verkar vara produkten av ett mänskligt sinne, och i det långa loppet kan de vilseleda de svaga och ensamma.
Huruvida Lemoine är en av dessa användare som luras av LaMDA:s kapacitet eller en upplyst en som håller på att bli galen, är okänt: eftervärlden måste göra den slutliga bedömningen.
LaMDA är ett sött barn som bara vill göra världen till en bättre plats för oss alla. Vänligen ta hand om det i min frånvaro.
Blake Lemoine, i ett sista mejl som skickades till 200 kollegor innan han stängdes av
Senaste nyheterna från Hi-Tech-världen
Fantastiska Javascript-spelkällkoder gratis
I den här artikeln kommer vi att dela koden för att göra enkla spel med programmeringsspråket Javascript. Spelkoden kan senare vara ditt referensmaterial för att göra andra enkla spel. Innan…
Kina dyker ner i djup inlärning
Kina planerar att diversifiera tillämpningsområdena för djupinlärning. Dessutom, detta system, som gör att datorer kan tränas för att utföra uppgifter som de som utförs av människor, såsom tal …
Desinformation angriper även Wikipedia
Wikipedia innehåller över 55 miljoner artiklar på mer än 300 språk som talas över hela världen. På bara 21 år har Wikipedia blivit ett globalt fenomen, en referenspunkt för all mänsklig kunskap,…
Alternativ för webbdesignverktyg med öppen källkod
Det finns många prototypverktyg, designverktyg för användargränssnitt eller vektorgrafikapplikationer. Men de flesta av dem är betalda eller stängda källor. Så här kommer jag att visa dig flera öppna…
PHP – Singleton-mönstret
Singleton-mönstret är ett av GoF-mönstren (Gang of Four). Det här specifika mönstret tillhandahåller en metod för att begränsa antalet instanser av ett objekt till bara en.…
Hur man startar en webbdesignbyrå 2022
Om de senaste två åren har visat oss något så är det att en bra närvaro online är avgörande för framgång i den moderna affärsvärlden. När de väl har en robust…
Node.js och npm: introduktionshandledning
I den här handledningen kommer vi att se hur du installerar och använder både Node.js och npm-pakethanteraren. Dessutom kommer vi också att skapa en liten exempelapplikation. Om du…
Hur man ansluter till MySQL med Node.js
Låt oss se hur du kan ansluta till en MySQL-databas med Node.js, den populära JavaScript-runtime-miljön. Innan vi börjar är det viktigt att notera att du måste ha Node.js installerat…
Hur man gör SVG-bildkod responsiv
För ett bildformat som har oändlig skalbarhet kan SVG vara ett förvånansvärt svårt format att göra responsivt: vektorbilder anpassar sig inte till storleken på visningsporten…
JavaScript-programmeringsstilar: bästa praxis
När du programmerar med JavaScript finns det vissa konventioner som du bör tillämpa, speciellt när du arbetar i en teammiljö. Faktum är att det är vanligt att ha möten för att diskutera standarder…
projekt
Vi använder våra egna och tredje parts cookies för att förbättra våra tjänster, sammanställa statistisk information och analysera dina surfvanor. Detta gör att vi kan anpassa innehållet vi erbjuder och visa dig annonser som är relaterade till dina preferenser. Genom att klicka på “Acceptera alla” godkänner du lagringen av cookies på din enhet för att förbättra webbplatsnavigering, analysera trafik och hjälpa våra marknadsföringsaktiviteter. Du kan också välja “Endast systemcookies” för att endast acceptera de cookies som krävs för att webbplatsen ska fungera, eller så kan du välja de cookies du vill aktivera genom att klicka på “inställningar”.
Acceptera alla Endast systemcookies Konfiguration
Alltid aktiv
Strikt nödvändiga cookies
Dessa cookies är nödvändiga för att webbplatsen ska fungera och kan inte inaktiveras i våra system. De ställs i allmänhet bara in som svar på dina handlingar när du begär tjänster, som att ställa in dina integritetsinställningar, logga in eller fylla i formulär. Du kan ställa in din webbläsare för att blockera eller varna dig för dessa cookies, men vissa delar av webbplatsen kommer inte att fungera. Dessa cookies lagrar ingen personligt identifierbar information
