OpenAI bereidt een tool voor die teksten kan identificeren die door ChatGPT zijn geschreven. Deze innovatie kan professoren helpen bij het verifiëren van studentenwerk. Momenteel houden zorgen over de potentiële impact ervan de implementatie tegen.
Vorig jaar beweerde OpenAI dat het onmogelijk was om te detecteren of een tekst door ChatGPT was geschreven. Aan het begin van het schooljaar had het bedrijf zelfs een gids verspreid onder leraren voor educatief, in plaats van bestraffend, gebruik van AI. De massale acceptatie van kunstmatige intelligentie door studenten veranderde het spel echter en dwong het bedrijf zijn standpunt te heroverwegen.
Geconfronteerd met deze situatie heeft OpenAI een tool ontwikkeld om de door ChatGPT gegenereerde teksten te detecteren. ChatGPT gebruikt een watermerktechniek die bestaat uit het maken van kleine onzichtbare aanpassingen in de selectie van woorden die de AI gebruikt. Met deze subtiele aanpassingen kun je herkennen of een tekst is geschreven door zijn kunstmatige intelligentie.
OPENAI aarzelt om haar door CHATGPT gegenereerde tekstcontrole te verwijderen
De watermerkmethode die door OpenAI is ontwikkeld, valt op door zijn nauwkeurigheid. Volgens een woordvoerder van het bedrijf is deze techniek effectief tegen lokale vervalsing, zoals gedeeltelijke herformulering van tekst. Het heeft echter beperkingen in het licht van complexere herschrijvingen, zoals het gebruik van vertaalsystemen of het wijzigen met een ander AI-model. Deze tool zou een oplossing kunnen bieden voor leraren, die ver verwijderd zijn van het toenemende gebruik ervan. Uit een recent onderzoek bleek dat 99% van de studenten generatieve AI ’s gebruikt zoals ChatGPT, een verbluffende figuur die de omvang van het fenomeen weerspiegelt.
>>CA54310-0081 voor Fujitsu Arrows NX9
OpenAI is zich echter bewust van de implicaties van deze technologie. Het bedrijf vreest dat het beschikbaar stellen van de tool sommige gebruikers ervan kan weerhouden ChatGPT te gebruiken. Bovendien hebben onderzoekers uitgelegd dat ze zich zorgen maken over de mogelijke impact ervan op niet-Engelssprekenden. Niet-Engelssprekenden kunnen onterecht worden gestraft door een watermerk vanwege taalverschillen en de manier waarop AI andere talen dan het Engels behandelt. Tegelijkertijd evalueert het bedrijf nog steeds de voordelen en risico ’s van deze tool voordat het besluit over de bredere distributie ervan.