Begränsa din förbanning Hur missbrukar din AI-enhet kan kosta dig ditt jobb

Har du någonsin blivit förbannad hos Siri, Alexa eller Google för att inte förstå dina ord? Du är inte ensam. Vi kan vara skyldiga att lobbing en förolämpning eller två Låt oss möta det: Amazon Echo's Alexa är dumt Låt oss möta det: Amazon Echo's Alexa är dumt Det finns ingen tvekan om röststyrda assistenter är framtiden, men är Alexa lösningen? Kanske inte. I den här artikeln kommer jag att argumentera att Alexa är faktiskt ganska dumt. Läs mer själva.

Men vi bör alla vara försiktiga.

Även om det inte finns någon verklig person i den andra änden av din förolämpning, sviker inte dessa svärord inte heller i tomrummet. Våra tanklösa barbs överförs via nätet till avlägsna servrar. Hur vi behandlar digitala personliga assistenter kan lära dem det värsta av mänskligheten, och det kan få vissa företag att betrakta några av oss som för unhinged att anställa.

Som det visar sig är det som vi kanske tycker om som en ofarlig skämdare trots allt inte så harmlös.

De lär oss från oss

Siri slog scenen 2011, följt av Google Now ett år senare. Vid 2014 hade Microsoft Cortana. Samma år fastnade Amazon en AI som heter Alexa i ett plaströr som folk kunde lämna på bordsskivorna. Google och Apple har sedan gjort samma sak. Tech jättar söker snabbt sätt att göra artificiell intelligens till konsumentprodukter Amazon Echo vs Google Home vs Apple HomePod Amazon Echo vs Google Home vs Apple HomePod I den här artikeln lär du skillnaderna mellan Amazon Echo och Googles startsida. Vi tar även en titt på vilka funktioner en Apple-högtalare kan innehålla. Läs mer .

Dessa digitala personliga assistenter kan verka mogna. De kan till och med ha stunder som glädjer oss Amazon Alexa sa WHAT? 15 Roliga Frågor Du Kan Fråga Din Echo Amazon Alexa Sa VAD? 15 roliga frågor du kan fråga ditt eko Vill du ha lite kul med Alexa? Försök sedan fråga dessa 15 frågor för en mängd dumma och hilariska svar. Läs mer . Men de är tonåriga. De är mycket litterära småbarn, och de lär sig aktivt av den information vi tillhandahåller dem. Så är de företag som gör dem.

Teamet bakom Siri arbetar med Viv (nu ägs av Samsung), en digital assistent som integreras med tredjepartstjänster som Weather Underground och Uber för att ge högtalare mer detaljerade svar. Onstage demonstrationer visar att Viv svarar på den typ av frågor vi frågar andra människor, inte den typ av språk vi skräddarsy för att maskiner ska förstå. Detta är resultatet av att lära av hur människor använder språk.

Digitala personalassistenter är inte vad de flesta av oss föreställer oss när vi bildar artificiell intelligens. Till skillnad från ELIZA, ett datorprogram från 1960-talet som simulerar naturligt språk (du kan försöka prata med det på nätet), gör dessa AI inte mycket “tänkande” för dem själva. Det arbetet är allt avlastat över internet.

Det finns flera steg till processen.

Den första komponenten är taligenkänning. Enheten laddar upp en direktinspelning eller översätter dina ord till text som den kan skicka till fjärrservrar (Apples, Googles, Amazons, vem som helst). Det är där magiken händer. Eller snarare söker programvara en databas för ett lämpligt svar. Den skjuter sedan denna information tillbaka till den personliga assistenten.

Kort sagt: någon frågar dig en fråga, du frågar Siri, och Siri frågar sedan Apples servrar. Servrarna ger Siri ett svar, hon svarar tillbaka till dig, och du är antingen glad eller vänster att hantera hur du hanterar din besvikelse Siri, varför förstår du mig inte? [INFOGRAFISK] Siri, varför förstår du mig inte? [INFOGRAFISK] En av de bästa sakerna med en iPhone 4S är appen Siri taligenkänning, men som jag har märkt alltmer verkar det inte som om jag och min skotska accent (cue massor av momenter ... Läs mer .

Dessa databaser innehåller inte bara svar. Vissa butiksröstinspelningar som hjälper datorn att navigera i de många nyanserna hos våra olika dialekter. Denna information är inte bara för att hjälpa bots att förstå oss. Facebook har använt tusentals naturliga språkförhandlingar mellan två personer för att undervisa Messenger chatbots hur man förhandlar.

Ställer vi ett bra exempel?

Dessa är knappast de enda AI: erna som lär oss av det sätt vi pratar.

Förra året släppte Microsoft en chatt bot på Twitter, Kik och GroupMe med syftet att simulera en amerikansk tonårsflicka. Inom några timmar, “Tay” kom överens med Hitler och tillägnade sig all slags offensiv retorik. Microsoft drog Tay offline innan dagen var uppe.

Medan Tay var ett misslyckande har det inte bromsat spridningen av chatbots. Du kan hitta dem i sociala nätverk som Facebook och Snapchat, tillsammans med meddelandekunder som HipChat och Slack. Vissa är runt för konversation. Andra kopplar dig till tjänster. Några av dessa robotar är säkrare eftersom de inte försök att imitera naturlig konversation, för just nu är det inte nödvändigtvis bra för maskiner att efterlikna hur vi pratar.

Vi ställer inte exakt det bästa exemplet för bots att lära av. Missouri State University College professor Sheryl Brahnam genomförde en studie som konstaterade att 10-50 procent av de undersökta studierna visade att människor är missbrukande eller på annat sätt betyder datorassistenter (av vilka digitala personliga assistenter är bara en typ). Det är ett störande stort antal. Vissa föräldrar känner sig skyldiga till att uttala ett enda dåligt ord framför sina barn. Det är långt ifrån halv av deras interaktioner är negativa.

De Facebook Messenger chatbots jag nämnde tidigare? Inte bara lärde de sig att förhandla genom att studera naturligt språk, de lärde sig också att ljuga.

Din framtida arbetsgivare kunde titta på

Vi kunde nå en punkt i framtiden där hur vi kommunicerar med robotar kan kosta oss vårt jobb. Enligt Harvard Business Review kan detta skift ske när vi går från att se en misshandlad bot som en trasig mobiltelefon och mer som en sparkad kattunge. Att vara respektlös mot ett företag bot kan potentiellt få dig att sparka.

Det betyder inte att anställda eller arbetsgivare kommer att börja se bots som söta levande enheter. Men de kunde vara tillräckligt uppmärksamma för att misshandla dem att verka oprofessionella och kontraproduktiva. Om du är en chef kan missbruk av AI få dig att ringas före HR för dåligt ledarskap.

Låter detta för hypotetiskt? Tänk på vad vi redan vet händer. Allt vi skriver eller säger till dessa assistenter skickas över internet, och vi vet inte riktigt vad som händer med det efteråt. Mycket av den informationen är loggad. Även om den informationen inte alltid är kopplad till ditt konto, är den fortfarande lagrad.

Google är tekniskt transparent om detta, men det gör det inte självklart. Denna typ om datainsamling sträcker sig till definitionen av att ha någon medgivande innan de spelas in.

Den insamlade data kan verka harmlös nu, men det finns inget för att stoppa tech-jättarna från att slutligen sätta ihop detaljerade portföljer på var och en av oss som framtida arbetsgivare, banker och andra enheter kan kolla innan de engagerar oss, mycket som en kreditrapport.

Lagstiftning verkar också

I ett fall där en Arkansas man anklagades för att döda sin vän (en tidigare polis) försökte åklagaren använda inspelningar från ett Amazon Echo som bevis. Amazon nekade förfrågan, men det är bara delvis tröstande. Vad som är unnerving är att Amazon har lagrat data i första hand. Den misstänkte har sedan beviljat tillgång till dessa uppgifter.

Jag nämnde att företag skulle kunna kolla våra dataposter innan vi interagerar med oss. I fråga om brottsbekämpning har de redan sina ögon på denna information. Behöver NSA verkligen samla in data? NSA lagrar data i molnet. Men är det säkert? NSA lagrar data i molnet. Men är det säkert? I kölvattnet av Edward Snowden läckorna vänder National Security Agency (NSA) till molnlagring för deras data. När de har samlat in information om dig, hur säker kommer det att vara? Läs mer om det kan vara beroende av den privata sektorn att samla in denna information för dem? Ska vi lita på någon med så mycket data på var och en av oss?

Ingår i uppgifterna är inte bara vad vi har sökt efter eller de kommandon vi utfärdade, men på vilket sätt vi gjorde det. Vi ger inte bara inblick i våra intressen och handlingar - vi ger andra en titt på hur vi agerar. Vad som händer mellan dig och Alexa ligger inte mellan dig och Alexa.

Vad vi säger ärenden

Medan Tay var tvungen att gå in i timeout, hittade Microsoft överväldigande framgång med en annan bot. Det heter Xiaoice. I Kina och Japan har den bottsamverkat med över 40 miljoner människor. Att Xiaoice inte har självförstört beror delvis på en kulturskillnad. I Kina är vissa typer av tal inte tillåtna online.

Nu har botsarna börjat göra polisen själva. Sociala nätverk börjar använda robotar för att begränsa hattal. Vi kanske inte pratar direkt med dessa bots, men de studerar fortfarande vårt tal för att lära sig vad som är kvalificerat som missbruk.

Oavsett hur du närmar dig frågan, vad vi säger och hur vi säger att det spelar roll. Botsarna och de företag som gör dem lyssnar. Idag kan våra arbetsgivare ansluta sig till dem. Och om datorer var att ersätta oss i framtiden, vill vi inte att de ska vara trevliga?

Hur reagerar du när digitala personliga assistenter misslyckas? Behandlar du dem som om de har känslor? Bryr du dig om någon håller flikar på vad du säger? Vad ser du som ansvarig väg framåt? En människa kommer att hålla ett öga på dina kommentarer nedan.

Bildkrediter: deagreez1 / Depositionfoton

Utforska mer om: Alexa, Artificial Intelligence, Google Assistant, Microsoft Cortana, Siri.