ChatGPT fa paura: riesce a creare scontrini falsi estremamente credibili

Di recente, ChatGPT ha aggiornato il suo modello 4o introducendo un generatore di immagini avanzato, capace persino di creare testi all’interno delle immagini con maggiore precisione.

Questa novità ha portato alcuni utenti a sfruttare ChatGPT per generare falsi scontrini di ristoranti reali, sollevando preoccupazioni su possibili usi impropri.

Subito virali gli scontrini falsi creati con ChatGPT

Il venture capitalist Deedy Das ha condiviso su X l’esempio dello scontrino fittizio di un ristorante di San Francisco, affermando di averla creata con il modello 4o di ChatGPT. Altri utenti hanno replicato l’esperimento, ottenendo risultati sempre più realistici, aggiungendo dettagli come macchie di cibo o bevande per aumentarne la credibilità:

Anche TechCrunch ha testato il generatore di ChatGPT, creando la falsa ricevuta di un Applebee’s a San Francisco. Tuttavia, l’immagine rivelava segni evidenti della sua natura artificiale, come l’uso della virgola anziché del punto per separare i decimali, oltre a calcoli matematici errati, confermando le difficoltà di questi modelli nel gestire operazioni aritmetiche di base. Nonostante gli errori, i malintenzionati potrebbero facilmente correggerli con software di editing o prompt più precisi:

Anche noi ci abbiamo provato, chiedendo a ChatGPT di generare uno scontrino del McDonald’s con una piccola macchia di ketchup nell’angolo in basso a destra. Il risultato? Giudicatelo voi:

La facilità con cui è possibile creare ricevute false solleva interrogativi seri, soprattutto per il rischio di frodi come richieste di rimborso per spese inesistenti. Taya Christianson, portavoce di OpenAI, ha spiegato che tutte le immagini generate includono metadati che ne attestano l’origine da ChatGPT. Ha inoltre sottolineato che OpenAI interviene quando gli utenti violano le policy e che l’azienda sta continuamente migliorando il sistema in base ai feedback ricevuti.

Quando è stato chiesto il perché ChatGPT consenta la creazione di ricevute false, nonostante le politiche d’uso di OpenAI vietino le frodi, Taya Christianson ha risposto che l’obiettivo è garantire agli utenti la massima libertà creativa possibile. Inoltre, ha suggerito che tali ricevute potrebbero essere utilizzate per scopi non fraudolenti, come studi in ambito finanziario, creazione di opere d’arte originali o realizzazione di annunci pubblicitari.

La vicenda mette in luce complesse sfide etiche e pratiche legate all’evoluzione dell’intelligenza artificiale, non solo nel caso di ChatGPT, sottolineando la necessità di un equilibrio tra progresso tecnologico e prevenzione di atti illeciti.

The post ChatGPT fa paura: riesce a creare scontrini falsi estremamente credibili appeared first on telefonino.net.