Da questo mese sono scattate nuove misure di applicazione dell’AI Act europeo, la normativa approvata nel 2024 che comincia a mostrare i suoi effetti concreti sul settore turistico. Le aziende di viaggio rischiano multe fino al 3% del fatturato globale se non rispettano l’obbligo di etichettare chiaramente i contenuti generati dall’intelligenza artificiale e di rendere trasparente ogni interazione automatizzata con il cliente, che sia un chatbot o un assistente vocale. Non è una norma teorica lontana dal nostro lavoro quotidiano: riguarda direttamente le foto che pubblichiamo sui nostri siti e sulle OTA.

Un dato che fa riflettere

Uno studio recente, condotto dall’azienda di analisi forense AI ContentGuard.me insieme al gruppo tedesco di marketing digitale ABCD Agency, ha esaminato 25.550 foto di hotel in sette destinazioni, rilevando che circa un’immagine su cinque mostrava segni di generazione AI o di editing pesante. Nick Parkinson, partner dello studio legale specializzato in turismo Travlaw, conferma che il problema delle immagini generate al computer è già concreto nel settore: gli ospiti percepiscono strutture marketizzate con foto ormai datate, che non riflettono più lo stato reale della proprietà, o dell’area circostante, come nel caso delle spiagge messicane invase dalle alghe sargasso. Se le aziende iniziano a usare contenuti AI per promuovere le proprie strutture, avverte Parkinson, quel rischio di scollamento tra promessa e realtà può solo amplificarsi.

Il punto più scomodo della nuova normativa

C’è un’osservazione, arrivata da Mathias Lundoe Nielsen, CEO della piattaforma di infrastrutture AI Entravel Group, che considero la parte più importante di tutto l’articolo, perché tocca un problema di equità che raramente viene discusso apertamente: gli obblighi di etichettatura, dice Nielsen, colpiranno probabilmente più duramente gli hotel economici e di fascia media rispetto a quelli di lusso. Una struttura a cinque stelle investe già in fotografia professionale, perché gli ospiti si aspettano quel livello di cura indipendentemente dalla normativa. Sono le strutture più economiche, quelle che usano immagini generate dall’AI per apparire più competitive con budget ridotti, ad avere più probabilità di dover dichiarare l’uso dell’intelligenza artificiale, e tale dichiarazione rischia di penalizzare proprio le strutture che avrebbero più bisogno di quel margine competitivo per attrarre ospiti. È una critica che mi sembra fondata e che vale la pena portare nel dibattito italiano, dove la stragrande maggioranza delle strutture, mia inclusa, non ha certo il budget di un cinque stelle per la fotografia professionale.

Nielsen individua comunque un uso legittimo delle immagini generate dall’AI, ad esempio, trasformare una scena estiva in una invernale per ridurre i costi di marketing stagionale. Il problema comincia, dice, quando l’uso diventa così spinto che un ospite prenota basandosi su una camera o un ambiente che non corrisponde alla realtà: a quel punto smette di essere un’ottimizzazione dei costi e diventa una scorrettezza nei confronti del cliente.

Come si presenta la trasparenza richiesta

L’Unione Europea ha già sviluppato una serie di icone standardizzate che le aziende devono mostrare al primo contatto dell’utente con un contenuto generato interamente o parzialmente dall’intelligenza artificiale, che si tratti di testo, immagini, video o audio. Booking Holdings, la più grande azienda di viaggio al mondo per capitalizzazione, si è dichiarata pubblicamente molto favorevole alla normativa, sottolineando che il proprio settore vive proprio di rassicurare le persone che ciò che vedono online corrisponderà a ciò che troveranno di persona, e che quindi impostare aspettative accurate è fondamentale, non un vincolo burocratico.

Cosa vieta la normativa, oltre alle immagini

L’AI Act vieta inoltre il pricing differenziato basato su gruppi socioeconomici, e qui Nielsen traccia una distinzione netta che trovo utile: raccomandare un’opzione più adatta a un viaggiatore in base ai suoi interessi va bene, determinare quanto quella stessa persona debba pagare per la stessa camera in base al profilo socioeconomico presunto no. Si spinge oltre la maggior parte dei fondatori del settore, sostenendo che questo tipo di prezzo differenziato basato su dati personali è vicino a una questione di concorrenza sleale, non solo etica. La normativa vieta anche pratiche manipolative di design, come meccanismi che spingono un utente verso una decisione di prenotazione che altrimenti non avrebbe preso, e impedisce l’uso discriminatorio dell’AI nei processi di selezione del personale, un tema che riguarda anche le strutture italiane che si affidano a strumenti automatizzati per la prima scrematura dei curriculum.

Cosa significa per una piccola struttura

Il consiglio pratico che porto a casa da questo articolo, ancora prima di ogni valutazione sulle multe, che, secondo lo stesso Parkinson, restano comunque proporzionate e pensate per i grandi trasgressori intenzionali più che per un piccolo errore involontario, è di fare un controllo onesto delle proprie immagini pubblicate online. È lo stesso principio di due diligence che ho descritto nel pezzo sul framework di valutazione dei fornitori: verificare prima, dichiarare quando serve, non aspettare che il problema emerga da solo. Se un fornitore ha usato un editing AI pesante su una foto della struttura, vale la pena saperlo e valutare se e come dichiararlo, prima che lo faccia notare un ospite deluso all’arrivo o, peggio, un’ispezione normativa. Lo stesso vale per qualunque chatbot o assistente automatizzato presente sul proprio sito: l’ospite deve sapere fin da subito che sta parlando con un sistema, non con una persona. Sono controlli che richiedono poco tempo e nessun investimento, ma che diventano sempre più parte della responsabilità normativa di chiunque gestisca una struttura ricettiva in Europa, indipendentemente dalle sue dimensioni.

FAQ

Cosa richiede l’AI Act europeo alle aziende del turismo?

Richiede l’etichettatura chiara dei contenuti generati dall’intelligenza artificiale, come immagini o testi, e la trasparenza quando un cliente interagisce con un sistema automatizzato come un chatbot, con multe fino al 3% del fatturato globale in caso di violazione.

Perché l’AI Act potrebbe penalizzare più gli hotel economici che quelli di lusso?

Perché gli hotel di lusso investono già in fotografia professionale, mentre le strutture economiche usano più spesso immagini generate dall’AI per apparire competitive con budget ridotti, e proprio queste strutture avranno più probabilità di dover dichiarare l’uso di AI nelle proprie immagini.

Cosa vieta l’AI Act oltre alle immagini non etichettate?

Vieta il pricing differenziato basato su gruppi socioeconomici, le pratiche di design manipolative che spingono verso una prenotazione, e l’uso discriminatorio dell’intelligenza artificiale nei processi di selezione del personale.

*immagine di copertina generata con l’AI