Gervigreindin Lék á Laginu: Starfsmaður Lætur Illa um Viðskiptavin og Það Fer Allt í Pósti!

Allt byrjaði með spurningarmerki. Ekki venjulegt spurningarmerki, heldur eitt sent frá yfirmanninum, sem bar með sér óþægilega vissu um að eitthvað hræðilegt hefði gerst. Strax vissi ég, og allir samstarfsmenn mínir, hvað hafði verið gert.

Við notum gervigreindarskrifara sem situr á fundum og sendir samantektir um leið og símtali lýkur. Fyrir löngu síðan kveikti ég á stillingu sem sendi þessa samantekt sjálfkrafa til allra á boðslistanum – og gleymdi því svo alveg.

Read nextSamband þeirra var fullkomið — unga konan breyttist í allt aðra manneskju á einni nóttu

Í morgun vorum við á fundi með viðskiptavini sem hefur verið, og verður áfram, kröfuharður. Á þeim fáu mínútum áður en þeir komu inn vorum við þrjú að blása út. Við tölum um álagið, óánægju okkar og hversu erfitt það er að vinna með þessum viðskiptavini. Einn sagði að reikningurinn myndi hvort eð er fara, og annar sagði að við hefðum blásið út tímalínuna vegna þess að þessi viðskiptavinur samþykkir aldrei neitt í fyrstu tilraun.

Þegar viðskiptavinirnir komu inn, breyttist allt. Við vorum fullkomlega kurteis, fundurinn gekk eðlilega fyrir sig, og við lögðum öll á símtólið og héldum að allt væri í lagi.

En gervigreindarskrifarinn gerði það sem hann var byggður til að gera. Hann tók upp allan fundinn, þar á meðal þessar nokkrar mínútur áður en viðskiptavinurinn kom inn. Svo gerði hann samantekt og sendi hana í tölvupósti til allra á boðslistanum – þar á meðal viðskiptavinurinn sjálfur.

Ég komst ekki að þessu fyrr en spurningarmerki yfirmanns míns lenti í pósthólfinu mínu. Þá hafði viðskiptavinurinn þegar svarað okkur öllum og spurt, orðrétt, hvað „uppblásin tímalína“ ætti að þýða, með allri samantekt gervigreindarinnar vitnað í þar fyrir neðan.

Allur eftirmiðdagurinn hefur farið í símtöl til að laga tjónið. Reikningurinn er nú tveimur stigum fyrir ofan mig í fyrirtækinu. Ég hef slökkt á allri sjálfvirkni sem ég á síðan þá, jafnvel nokkrum sem aldrei gerðu neitt rangt, því ég treysti mér ekki lengur með merkingarreit.

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

Tólið gerði ekkert rangt. Það gerði nákvæmlega það sem ég stillti það til að gera. Ég er snillingurinn sem virkjaði það fyrir ári síðan og gekk í burtu.

Viðbrögð samfélagsins voru flest á þann veg að margir bentu á að þetta væru dýrkeypt mistök og að starfsmaðurinn ætti "að uppfæra ferilskrána sína". Einn sagði að þetta væri "bítin af sjálfvirkninni", og að hann skoðaði alltaf umritunina sína áður en hann sendi hana, ekki vegna þess að hann væri samviskusamur, heldur vegna þess að hann væri gleyminn.

Margir gagnrýndu starfsmanninn fyrir að treysta of mikið á gervigreindina. "Gerðir þú aldrei yfirfara fundargerðirnar áður en þú sendir þær út? Vá, þetta er algjör heilalaus oftraust á gervigreind," sagði einn. Annar bætti við: "Í dag fokkaðirðu upp með því að nota gervigreind."

En það voru líka þeir sem lögðu áherslu á siðferðislegu hliðina. "Harður lærdómur í því að tala ekki illa um fólkið sem borgar reikningana. Ég vona að þessi reynsla auðmýki þig," sagði einn. Annar minnti á "reglu númer 1: Aldrei, aldrei tala illa um neitt vinnutengt á meðan þú ert í vinnunni. Sama hvar." Sumir spurðu sig einnig hvort viðskiptavinurinn hafi yfirhöfuð vitað af notkun gervigreindar á fundinum, "Ég væri svo reiður ef ég kæmist að því að einhver væri að gera það án leyfis míns."

Þessi saga er skýrt dæmi um hætturnar sem geta leynst í tækniheimi nútímans þegar sjálfvirknin fer úr böndum og mannleg mistök eiga sér stað. Jón og Sigríður kafa ofan í þessa sögu í næsta þætti af Leyniskránni.