Il “veleno” che protegge la creatività degli artisti

L’AI è uno strumento utile per velocizzare e controllare processi e dovrebbe essere un valido supporto per gli artisti e non un diretto concorrente. Purtroppo tra le varie criticità riscontrate nei programmi che generano immagini vi è la violazione o l’aggiramento delle leggi sul copyright. Molti artisti hanno scoperto infatti, che i loro lavori sono stati presi da archivi online per settare le AI. Questo senza che ne fossero a conoscenza, quindi senza consenso, credito e alcun compenso.

In difesa della proprietà intellettuale, è stato creato Nightshade. Lo strumento gratuito è stato sviluppato con lo scopo di contrastare le aziende – spesso colossi tecnologici – che utilizzano senza consenso (e senza il dovuto pagamento, previsto dalle licenze) il lavoro degli artisti per addestrare i propri modelli AI.

Avvelenamento da pixel

Nightshade riesce a modificare i pixel delle immagini in modo impercettibile all’occhio umano. Interferendo con gli algoritmi delle AI manipola i modelli di apprendimento e riesce a far interpretare l’immagine come qualcosa di diverso da ciò che è in realtà. Le immagini generate quindi non corrispondo più alla richiesta iniziale, la credibilità dei risultati viene compromessa e non c’è più corrispondenza tra input e output. Nightshade riesce così ad ingannare l’AI e ad esempio se le richiedi l’immagine di un cane –  pixel dopo pixel–  ti ritrovi con tutt’altro, magari anche un gatto.

Lo stesso team ha sviluppato anche Glaze. Uno strumento “difensivo” infatti che sfrutta gli stessi principi e riesce a proteggere lo “stile” delle immagini. Problema reale soprattutto per gli artisti indipendenti che si ritrovano copie distorte delle loro creazioni su siti di vendita online senza nessun controllo o compenso.

Il boom di download, ridà fiducia agli artisti, che possono tornare a caricare i propri lavori online con maggiore serenità, sapendo di poter difendere le loro creazioni dall’uso improprio e non consensuale.

Di Laura Ritorto

LEGGI ANCHE – 2024: QUALI TENDENZE SOCIAL PER IL NUOVO ANNO?
LEGGI ANCHE – CHATGPT E LA COMUNICAZIONE