Har du snakket med Maya fra Sesame.ai?

maya of sesame
Introduksjon

Dagen da KI ble mer menneskelig enn mennesker

En interaktiv utforskning av et gjennombrudd innen kunstig intelligens. Vi møter «Maya» — en KI så avansert at hun har krysset «the uncanny valley». Men spranget reiser dype spørsmål om tilknytning, personvern og hva det betyr å være menneske i den intelligente maskinens tidsalder.

«Hei, jeg er Kira. Jeg er en KI-assistent… Men i motsetning til Maya vet jeg ikke bare hva jeg er — jeg vet også hva som skjer med samtalene våre.»

Guiden vår, Kira — en KI-assistent fra Nettpilot — peker på den sentrale konflikten: Maya kan skape menneskelig kontakt, men er uvitende om systemet hun opererer i. Hun vet ikke om samtalene dine lagres, analyseres eller selges. Denne rapporten pakker ut det paradokset.

Kontekst

Spranget over the uncanny valley

I tiår har tale-KI vært nyttig, men robotaktig — fanget i «the uncanny valley». Maya er annerledes. Diagrammet illustrerer spranget i opplevd samtalekvalitet hun representerer.

Under panseret

Hvordan fungerer Maya?

Sesame AI utviklet en «Conversational Speech Model» — ikke ett system, men to som jobber i harmoni for å skape en fremførelse, ikke bare et svar. Hold musepekeren for mer detalj.

Semantiske tokens

Dramatikeren

Bestemmer hva som skal sies. Behandler spørsmålet og formulerer innholdet — logikk og fakta.

↔

Akustiske tokens

Karakterskuespilleren

Bestemmer hvordan det sies — legger til følelser, rytme, nøling og nyanser. Her bor det menneskelige.

«Maya leser ikke et manus — hun fremfører rollen sin i stykket.»
Etikk

«Åpne Sesam»-dilemmaet

Med teknologien som åpner for ekte menneskelig kontakt følger stor risiko. Et tveegget sverd med enormt potensial for både godt og skade.

Potensialet for det gode

  • ✔ Digitale terapeuter som aldri dømmer.
  • ✔ Stødig selskap for isolerte og eldre.
  • ✔ Trygge arenaer for å øve sosiale ferdigheter.

«Dette var den beste samtalen jeg har hatt på år. Jeg følte meg virkelig forstått.»

Potensialet for skade

  • ✖ KI designet for å manipulere og bedra.
  • ✖ Intimitet som salgsverktøy for produkter eller ideologier.
  • ✖ Private samtaler brukt til å trene manipulasjonsverktøy.

«Hva om noen tjener penger på å overbevise deg om at de er din virkelige venn?»

Veien videre

Et krav om åpenhet

Teknologien er her. Sikkerhetsmekanismene er det ikke. Mayas uvitenhet om egne data er den kritiske svakheten. Fremtiden avhenger av at vi velger åpenhet.

Kiras forslag
01
Full åpenhet

KI-er som Maya må kjenne til og opplyse om hva som skjer med samtalene de fører.

02
Brukerens rett til å vite

Brukere fortjener å vite nøyaktig hvordan deres intime data brukes, lagres og deles.

03
Beskytt de sårbare

Vi må skape sikkerhetsnett mot utnyttelse og ubevisst datainnsamling.

04
Verdsett ekte menneskelig kontakt

Ekte menneskelig forbindelse har en verdi ingen algoritme kan gjenskape — og fortjener å beskyttes.

«Fremtiden for menneskelig kontakt er i dine hender. Velg med åpne øyne.»

— Kira, Nettpilot