El modelo de inteligencia artificial de Google se está volviendo realmente bueno para falsificar fotos de teléfonos

Estoy empezando a entender de dónde obtiene su nombre el modelo de IA visual de Google, porque después de jugar con él durante unos días, esto es lo que encuentro: plátanos. Las imágenes que genera son tan realistas que parecen plátanos. Siento que me estoy volviendo loco después de mirarlos durante demasiado tiempo. Y si tuviera que identificar una razón por la que las imágenes de Nano Banana Pro parecen mucho más realistas que la inclinación por IA anterior, es esta: parecen fotos tomadas con la cámara de un teléfono.

Claro, los indicios están ahí si los buscas. Tome la imagen que encabeza este artículo de la pareja (¡no es real!) en la acera de la ciudad. La luz de la calle al fondo no me parece adecuada, y algunas de las fachadas de los edificios, especialmente las más al fondo, se ven un poco extrañas y en bloques. ¿Pero si estuviera viendo esta foto en las redes sociales? De ninguna manera lo registraría como una IA. Los sujetos parecen realistas, pero creo que el hecho de que la imagen no parezca demasiado perfecta es lo que lo vende.

Imagen AI de un barco

La montaña es demasiado grande y dramática, pero la forma en que se representan el barco, el agua y la ciudad es muy similar a cómo los representa un teléfono.
Imagen: Nano Plátano Pro

La exposición fuerte y plana, la generosa profundidad de campo, los detalles ligeramente nítidos: todo me recuerda a la cámara del teléfono. Ben Sandofsky, cofundador de la popular aplicación de cámara para iPhone Halide, está de acuerdo. En la imagen del ferry generada por IA de arriba, notó la «nitidez agresiva de la imagen que se encuentra en las fotos de teléfonos inteligentes. Es un truco visual que ayuda a que la imagen resalte». ¿Otra característica distintiva de las fotos de teléfonos inteligentes? Ruido. «La mayoría de las fotos generadas por IA se sienten demasiado limpias. La textura en estas fotos parece provenir del pequeño sensor de un teléfono inteligente».

Representación AI del interior de un autobús lleno de gente

Incluso los pasajeros del metro del condado de King generados por IA se niegan a quitarse las mochilas en el autobús.
Imagen: Nano Plátano Pro

Entonces, ¿de dónde saca la IA de Google sus nociones sobre las fotos de los teléfonos? Google Photos parece un lugar obvio (y muy problemático) al que acudir, pero Elijah Lawal, director de comunicaciones globales de la aplicación Gemini, dice que «para Nano Banana no utilizamos Google Photos». También me dice que Nano Banana Pro no ha sido diseñado específicamente para producir la apariencia de una cámara de teléfono. «Una de las grandes mejoras es que puede conectarse a la Búsqueda de Google», afirma. Si está inspirado para crear una infografía sobre el clima actual, puede buscar la temperatura; antes, deberá incluir más de esa información en su mensaje.

Según Lawal, esto se limita a la búsqueda de texto y no a la búsqueda de imágenes. Pero ser capaz de ve a buscarlo La información del mundo real por sí sola puede ser un ingrediente clave aquí. Nano Banana Pro es especialmente bueno para agregar cosas a las imágenes que tienen sentido en ese contexto, incluso si nunca las solicitaste específicamente. Puede agregar elementos históricos como ropa y automóviles apropiados para la época sin que se le indique expresamente que lo haga. Incluso agregó una marca de agua al Servicio de listados múltiples del Noroeste cuando le pedí que creara un listado falso de Zillow para una casa falsa en Seattle. Cada vez es mucho mejor comprender la tarea y agregar esos pequeños detalles sin que se lo soliciten.

Imagen AI de una casa estilo artesano

Imagen: Nano Plátano Pro

Le pedí a Gemini un listado de Zillow para una casa estilo artesano con pintura blanca y molduras negras en West Seattle. Me devolvió una lista de texto con solo palabras que describían la ubicación, pero en otro mensaje, usé Nano Banana Pro para crear una imagen que coincidiera con la descripción. No lo había pedido específicamente, pero en la imagen se incluye un copyright de 2023, lo cual es profundamente divertido, y una marca de agua como la que se encuentra básicamente en todas las fotografías de bienes raíces que se encuentran en el área metropolitana de Seattle. Curiosamente, no es el logotipo actual, es la versión anterior, que es la misma en todas las fotografías de la casa que compré en 2018.

Le pregunté a Google dónde se le podría ocurrir esto a Nano Banana, y la gerente de producto de DeepMind, Naina Raisinghani, sugirió que era una alucinación y ofreció esta afirmación: «Nano Banana Pro proporciona enormes mejoras en la consistencia de los caracteres, la generación de imágenes y la precisión basada en búsquedas. Si bien este es nuestro modelo de imagen más preciso hasta la fecha, las alucinaciones de IA pueden ocurrir tan pronto como lo alentamos a decidir nuevamente. Un intento posterior a menudo producirá un resultado más acorde con su intención». La cuestión es que agregar la marca de agua a un servicio de listado de bienes raíces parece que el modelo funciona exactamente como se esperaba.

Marca de agua o no, creo que la letra pequeña en el letrero de «se vende» podría revelar esto como IA, o tal vez las plantas plantadas en el porche delantero se ven demasiado perfectas, pero ¿en serio? Me cuesta creer que esta casa no es real, aunque sé en el fondo que no lo es. No lo pensaría dos veces si lo encontrara en un sitio web de bienes raíces, y la marca de agua ciertamente ayuda a venderlo como genuino. Si la IA está haciendo tan bien al imitar las cosas que indican que una foto es real, entonces muchachos: hemos terminado.

Imagen AI de un periodista en el Apple Park

Nano Banana está combinando aquí algunas ubicaciones diferentes en Apple Park, pero el ambiente es bueno. Curiosamente, añadió personas mayores. Borde logotipo aquí también. Te hace preguntarte.
Imagen: Nano Plátano Pro

Eso es lo que más me interesa: la IA te dice que cada vez son más difíciles de detectar y Nano Banana está mejorando en imitar pequeños detalles que hacen que la imagen parezca real. Nos dio algunas indicaciones vagas para mostrar una Borde un reportero que cubre un evento en vivo; Se agregaron detalles como un micrófono al Borde logo en la mano del reportero y un quirón en la parte inferior de la pantalla. Sin errores ortográficos ni letras que parezcan extranjeras. Ninguna mano con seis dedos. Nada que obviamente lo haga pasar por IA y muchos pequeños detalles para venderlo como algo real.

Hace un año, o incluso hace unos meses, tuve la sensación de que llegaría un día en el futuro, un día en el que sería imprudente creer en cualquier foto o vídeo que vieras en línea de una fuente desconocida a menos que se demostrara lo contrario. Este ejercicio me convenció de que ese día no está en el futuro; está aquí ahora. Sintoniza tu radar de IA adecuadamente y no te sorprendas si te vuelve un poco loco.

Seguir temas y autores de esta historia para ver más como esto en el feed personalizado de su página de inicio y recibir actualizaciones por correo electrónico.


Isabel Vertiz

Acerca de Isabel Vertiz

Soy Isabel Vertiz y potenciamos la tecnología de vanguardia en todas las escuelas e institutos donde el estado no llega, queremos que el estado ayude a muchos con tecnología de punta.

Ver todas las entradas de Isabel Vertiz →

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *