Google blocca la generazione di immagini con AI

Google ha recentemente fatto notizia nel mondo dell’intelligenza artificiale (IA) con lo sviluppo e l’aggiornamento del suo generatore di immagini basato sull’IA, noto come Imagen. Questa tecnologia rappresenta un notevole passo avanti nell’ambito della generazione di immagini fotorealistiche a partire da descrizioni testuali, ponendosi in diretta concorrenza con altri strumenti simili come DALL-E di OpenAI.

Imagen si distingue per la sua capacità di comprendere profondamente il testo per generare immagini che non solo corrispondono alle descrizioni fornite ma che raggiungono anche nuovi livelli di fotorealismo e coerenza visiva. La chiave del successo di Imagen risiede nell’utilizzo di modelli di linguaggio preaddestrati di grande dimensione e modelli di diffusione condizionata, che insieme consentono una generazione di immagini estremamente dettagliata e precisa. Questa tecnologia ha stabilito nuovi standard di qualità, come dimostrato dai risultati ottenuti nei test benchmark, dove Imagen ha superato altri modelli sia in termini di fedeltà dell’immagine che di allineamento testo-immagine​​.

Tuttavia, nonostante i successi, Google ha affrontato sfide significative legate alle implicazioni etiche e ai potenziali abusi di questa tecnologia. Uno dei principali problemi riguarda il rischio che Imagen possa perpetuare o addirittura amplificare gli stereotipi sociali e le rappresentazioni dannose, a causa delle tendenze e dei pregiudizi presenti nei vasti dataset di addestramento utilizzati. Inoltre, la generazione di immagini che ritraggono persone ha rivelato limitazioni, con una preferenza significativamente inferiore per le immagini generate che includono rappresentazioni umane, il che indica una riduzione della fedeltà dell’immagine in questi casi. Queste preoccupazioni hanno portato Google a decidere di non rendere pubblico il codice o le demo di Imagen senza prima implementare adeguate salvaguardie​​.

Parallelamente, Google ha integrato le capacità di generazione di immagini nel suo strumento di chatbot Bard, attraverso l’aggiornamento Imagen 2. Questa funzionalità permette agli utenti di generare immagini in modo creativo e senza costi aggiuntivi in molte lingue e paesi. L’aggiornamento ha lo scopo di fornire agli utenti uno strumento più avanzato e capace, rendendo Bard con Gemini Pro uno dei chatbot preferiti in termini di comprensione, ragionamento, sintesi e abilità di codifica. Google ha prestato particolare attenzione ai principi di responsabilità nell’IA, cercando di garantire che la generazione di immagini con Bard mantenga una distinzione chiara tra le opere originali create dall’uomo e quelle generate dall’IA​​.

Nonostante i progressi tecnologici e la spinta verso un’IA sempre più capace e versatile, Google si trova di fronte a questioni complesse legate all’etica, alla sicurezza e alla responsabilità nel rilascio e nell’uso delle sue tecnologie di intelligenza artificiale. La decisione di non rendere pubblico Imagen senza adeguate misure di sicurezza riflette un atteggiamento cauto e considerato riguardo alle potenziali implicazioni di queste potenti tecnologie sull’individuo e sulla società nel suo insieme.