AI kan nu ongemakkelijk geloofwaardige teksten schrijven

Met slimme algoritmes die grote hoeveelheden data doorspitten kun je nu al vrij veel bereiken is het idee. Een van de barrières is natuurlijke taal: dat blijft lastig. Maar er lijkt nu een doorbraak(je) te zijn.

De mensen van OpenAI hebben een algoritme ontwikkeld dat zelfstandig een coherent verhaal schrijft. Van dit resultaat worden de onderzoekers ietwat nerveus, dus ze hebben een ‘light’ versie en een onderzoeksrapport uitgebracht.

Probeer de ‘light’ versie

OpenAI heeft de code van GPT-2 al vrijgegeven, met het onderzoeksrapport een dataset en de nodige instructies. Daar heeft Adam King al een Talk to Transformer van gemaakt. Je typt een of enkele woorden en het ‘ding’ begint een tekst te maken. De resultaten zijn meestal verrassend en soms totaal onzinnig.

[ tekst loopt door onder deze afbeelding ]

Talk to Transformer is nog een beetje ‘buggy’, want soms zie ik de JSON scripts voorbij vliegen. En het resultaat lijkt ook meer het kopiëren en plakken van op internet gevonden teksten dan het werkelijk zelfstandig ‘schrijven’ van teksten. Maar dit hoeft niet per se aan GPT-2 zelf te liggen.

Bang voor misbruik

De onderzoekers van OpenAI zijn bang dat onverlaten deze toepassing gaan misbruiken. Zo zou GPT-2 kunnen bijdragen aan het verspreiden van terrorisme, haat en andere narigheid, zoals:

  • Genereren van misleidende nieuwsberichten
  • Zich online voordoen als iemand anders
  • Volledig automatische productie van beledigende of ‘fake’ content op social media
  • het automatiseren van spam/phishing content

Maar na het typen van ook politiek incorrecte woorden kom ik niets tegen waarvan ik achterover sla.

Positieve toepassingen

OpenAI ziet ook positieve toepassingen en dat is een van de redenen om toch de code en andere hulpmiddelen vrij te geven. Zo denken ze dat GPT-2 kan helpen bij het verbeteren van initiatieven om ‘natuurlijke taal’ te genereren in toepassing als:

  • AI writing assistants
  • More capable dialogue agents
  • Unsupervised translation between languages
  • Better speech recognition systems

Dit is zeker interessant en zodra ik iets noemenswaardigs of praktisch inzetbaars tegenkom, zal ik daar over berichten.

Meer over GPT-2

In de video OpenAI’s GPT-2 is Now Available van Two Minute Papers wordt uitgelegd wat GPT-2 nou precies doet.

Lees meer over GPT-2 in het artikel Better Language Models
and Their Implications
van OpenAI.