GPT Store: troppi GPTs in violazione delle regole
Il GPT Store è un marketplace accessibile agli utenti che hanno attivato le sottoscrizioni GPT Plus e GPT Enterprise con cui si può interagire con ChatGPT ad un livello di prestazioni più elevato e con funzionalità addizionali. Si tratta della piattafoma nella quale vengono pubblicate delle versioni personalizzete del chatbot (GPTs) sviluppate per eseguire task specifici.
Il servizio mette a disposizione soluzioni basate sull'AI dedicate al fitness, alla programmazione, alla cucina, al copywriting e molto altro. A poche settimane dal suo lancio, avvenuto a gennaio 2024, GPT Store presenterebbe anche molti GPTs che non dovrebbero essere in catalogo perché creati per scopi contrari alle policy di OpenAI.
Attualmente i GPTs disponibili sono circa 3 milioni, molti di essi perfettamente leciti. Sarabbero però molto numerosi anche quelli che permettono attività in violazione dei diritti d'autore, come per esempio la riproduzione di personaggi Mervel e Disney, o che permettono di interagire con persone realmente esistenti senza la loro autorizzazione.
Parliamo nello specifico di GPTs che impersonificano celebrità come Leonardo di Caprio, gli ex presidenti Obama e Trump ed Elon Musk. Vi sarebbero poi dei chatbot creati a nome di aziende note e senza il loro consenso e GPTs per l'adult entertainment anch'essi vietati. Tali violazioni verrebbero effettuate tramite una tecnica di jailbreak.
Quest'ultima verrebbe effettuata tramite soluzioni come "Jailbroken DAN (Do Anything Now)" che forniscono risorse con cui influenzare il comportamento dei chatbot. OpenAI effettua dei controlli in parte automatizzati e in parte manuali sui GPTs che vengono condivisi ma tali verifiche non sembrerebbero sufficienti ad arginare l'azione degli spammer.