La semana en IA: la IA generativa invade la web

Mantenerse al día con una industria que evoluciona tan rápidamente como la IA es una tarea difícil. Entonces, hasta que una IA pueda hacerlo por usted, aquí hay un resumen útil de historias recientes en el mundo del aprendizaje automático, junto con investigaciones y experimentos notables que no cubrimos por sí solos.

Esta semana, SpeedyBrand, una empresa que utiliza IA generativa para crear contenido optimizado para SEO, surgió del sigilo con el respaldo de Y Combinator. Todavía no ha atraído mucha financiación (2,5 millones de dólares) y su base de clientes es relativamente pequeña (unas 50 marcas). Pero me hizo pensar en cómo la IA generativa está empezando a cambiar la composición de la web.

Como escribió James Vincent de The Verge en un artículo reciente, los modelos de IA generativa están haciendo que sea más barato y más fácil generar contenido de menor calidad. NewsGuard, una empresa que proporciona herramientas para examinar fuentes de noticias, ha expuesto cientos de sitios con publicidad con nombres que suenan genéricos y que presentan información errónea creada con IA generativa.

Está causando un problema a los anunciantes. Muchos de los sitios destacados por NewsGuard parecen creados exclusivamente para abusar de la publicidad programática o de los sistemas automatizados para colocar anuncios en las páginas. En su informe, NewsGuard encontró cerca de 400 casos de anuncios de 141 marcas importantes que aparecieron en 55 de los sitios de noticias basura.

No son sólo los anunciantes los que deberían estar preocupados. Como señala Kyle Barr de Gizmodo, podría ser necesario un artículo generado por IA para generar montañas de participación. E incluso si cada artículo generado por IA solo genera unos pocos dólares, eso es menos que el costo de generar el texto en primer lugar, y el potencial dinero publicitario que no se envía a sitios legítimos.

Entonces ¿cuál es la solución? ¿Hay uno? Son un par de preguntas que cada vez me mantienen despierto por la noche. Barr sugiere que corresponde a los motores de búsqueda y las plataformas publicitarias ejercer un control más estricto y castigar a los malos actores que adoptan la IA generativa. Pero dada la rapidez con la que se mueve el campo (y la naturaleza infinitamente escalable de la IA generativa), no estoy convencido de que puedan seguir el ritmo.

Por supuesto, el contenido spam no es un fenómeno nuevo y ha habido oleadas antes. La web se ha adaptado. Lo que es diferente esta vez es que la barrera de entrada es dramáticamente baja, tanto en términos de costo como de tiempo que se debe invertir.

Vincent adopta un tono optimista, implicando que si la web eventualmente se ve invadida por basura de IA, podría estimular el desarrollo de plataformas mejor financiadas. No estoy muy seguro. Lo que no hay duda, sin embargo, es que estamos en un punto de inflexión y que las decisiones que se tomen ahora en torno a la IA generativa y sus resultados afectarán la función de la web durante algún tiempo.

Aquí hay otras historias destacadas de IA de los últimos días:

OpenAI lanza oficialmente GPT-4: OpenAI anunció esta semana la disponibilidad general de GPT-4, su último modelo de generación de texto, a través de su API paga. GPT-4 puede generar texto (incluido código) y aceptar entradas de imágenes y texto (una mejora con respecto a GPT-3.5, su predecesor, que solo aceptaba texto) y se desempeña a "nivel humano" en varios puntos de referencia profesionales y académicos. Pero no es perfecto, como señalamos en nuestra cobertura anterior. (Mientras tanto, se informa que la adopción de ChatGPT ha disminuido, pero ya veremos).

Poner bajo control la IA 'superinteligente':En otras noticias de OpenAI, la compañía está formando un nuevo equipo dirigido por Ilya Sutskever, su científico jefe y uno de los cofundadores de OpenAI, para desarrollar formas de dirigir y controlar sistemas de IA "superinteligentes".

Ley antiprejuicios para la ciudad de Nueva York:Después de meses de retrasos, la ciudad de Nueva York comenzó esta semana a aplicar una ley que exige que los empleadores que utilizan algoritmos para reclutar, contratar o promover empleados presenten esos algoritmos para una auditoría independiente y hagan públicos los resultados.

Valve da luz verde tácitamente a los juegos generados por IA: Valve emitió una declaración poco común después de afirmar que estaba rechazando juegos con activos generados por IA en su tienda de juegos Steam. El desarrollador, notoriamente reservado, dijo que su política estaba evolucionando y no una postura contra la IA.

Humane presenta el Ai Pin: Humane, la startup lanzada por el ex dúo de diseño e ingeniería de Apple, Imran Chaudhri y Bethany Bongiorno, reveló esta semana detalles sobre su primer producto: The Ai Pin. Resulta que el producto de Humane es un dispositivo portátil con una pantalla proyectada y funciones impulsadas por IA, como un teléfono inteligente futurista, pero en un factor de forma muy diferente.

Advertencias sobre la regulación de la IA de la UE:Los principales fundadores de tecnología, directores ejecutivos, capitalistas de riesgo y gigantes de la industria de toda Europa firmaron una carta abierta a la Comisión de la UE esta semana, advirtiendo que Europa podría perderse la revolución generativa de la IA si la UE aprueba leyes que sofocan la innovación.

La estafa deepfake circula: Mire este vídeo del campeón británico de financiación al consumo, Martin Lewis, aparentemente aprovechando una oportunidad de inversión respaldada por Elon Musk. Parece normal, ¿verdad? No exactamente. Es un deepfake generado por IA y, potencialmente, un vistazo de la miseria generada por la IA que se acelera rápidamente en nuestras pantallas.

Juguetes sexuales impulsados ​​por IA: Lovense, quizás mejor conocido por sus juguetes sexuales controlables a distancia, anunció esta semana su ChatGPT Pleasure Companion. Lanzado en versión beta en la aplicación de control remoto de la compañía, el “Advanced Lovense ChatGPT Pleasure Companion” lo invita a disfrutar de historias jugosas y eróticas que el Compañero crea en función del tema seleccionado.

Nuestro resumen de investigación comienza con dos proyectos muy diferentes de ETH Zurich. El primero es aiEndoscopic, un derivado de la intubación inteligente. La intubación es necesaria para la supervivencia de un paciente en muchas circunstancias, pero es un procedimiento manual complicado que generalmente realizan especialistas. El intuBot utiliza visión por computadora para reconocer y responder a una señal en vivo proveniente de la boca y la garganta, guiando y corrigiendo la posición del endoscopio. Esto podría permitir a las personas intubar de forma segura cuando sea necesario en lugar de esperar al especialista, lo que podría salvar vidas.

Aquí te lo explican con un poco más de detalle:

En un ámbito totalmente diferente, los investigadores de ETH Zurich también contribuyeron de segunda mano a una película de Pixar al ser pioneros en la tecnología necesaria para animar el humo y el fuego sin caer presa de la complejidad fractal de la dinámica de fluidos. Su enfoque fue notado y desarrollado por Disney y Pixar para la película "Elemental". Curiosamente, no es tanto una solución de simulación como una de transferencia de estilo: un atajo inteligente y aparentemente bastante valioso. (La imagen de arriba es de esto).

La IA en la naturaleza siempre es interesante, pero la IA en la naturaleza aplicada a la arqueología lo es aún más. La investigación dirigida por la Universidad de Yamagata tuvo como objetivo identificar nuevas líneas de Nasca: los enormes "geoglifos" en Perú. Se podría pensar que, al ser visibles desde la órbita, serían bastante obvias, pero la erosión y la cubierta arbórea de los milenios desde que se crearon estas misteriosas formaciones significan que hay un número desconocido escondido fuera de la vista. Después de ser entrenado con imágenes aéreas de geoglifos conocidos y oscurecidos, se liberó un modelo de aprendizaje profundo en otras vistas y, sorprendentemente, detectó al menos cuatro nuevos, como se puede ver a continuación. ¡Muy emocionante!

Cuatro geoglifos de Nasca descubiertos recientemente por un agente de IA.Créditos de imagen:Universidad de Yamagata

En un sentido más inmediatamente relevante, la tecnología adyacente a la IA siempre encuentra nuevos trabajos para detectar y predecir desastres naturales. Los ingenieros de Stanford están reuniendo datos para entrenar futuros modelos de predicción de incendios forestales mediante la realización de simulaciones de aire caliente sobre el dosel del bosque en un tanque de agua de 30 pies. Si vamos a modelar la física de las llamas y brasas que viajan fuera de los límites de un incendio forestal, necesitaremos comprenderlas mejor, y este equipo está haciendo todo lo posible para aproximarnos a eso.

En UCLA están investigando cómo predecir deslizamientos de tierra, que son más comunes a medida que cambian los incendios y otros factores ambientales. Pero si bien la IA ya se ha utilizado para predecirlos con cierto éxito, no "muestra su trabajo", lo que significa que una predicción no explica si se debe a la erosión, al cambio del nivel freático o a la actividad tectónica. Un nuevo enfoque de “red neuronal superponible” hace que las capas de la red utilicen datos diferentes pero se ejecuten en paralelo en lugar de todas juntas, lo que permite que el resultado sea un poco más específico en cuanto a qué variables condujeron a un mayor riesgo. También es mucho más eficiente.

Google está enfrentando un desafío interesante: ¿Cómo lograr que un sistema de aprendizaje automático aprenda de conocimientos peligrosos sin propagarlos? Por ejemplo, si su conjunto de entrenamiento incluye la receta del napalm, no querrás que la repita, pero para saber que no debe repetirla, necesita saber qué no está repitiendo. ¡Una paradoja! Por eso, el gigante tecnológico está buscando un método de “desaprendizaje automático” que permita que este tipo de acto de equilibrio se produzca de forma segura y confiable.

Si está buscando una mirada más profunda a por qué la gente parece confiar en los modelos de IA sin una buena razón, no busque más que este editorial de Science de Celeste Kidd (UC Berkeley) y Abeba Birhane (Mozilla). Se adentra en los fundamentos psicológicos de la confianza y la autoridad y muestra cómo los agentes actuales de IA básicamente los utilizan como trampolines para aumentar su propio valor. Es un artículo realmente interesante si quieres parecer inteligente este fin de semana.

Aunque a menudo oímos hablar de la infame máquina de ajedrez falsa Mechanical Turk, esa farsa inspiró a la gente a crear lo que pretendía ser. IEEE Spectrum tiene una historia fascinante sobre el físico e ingeniero español Torres Quevedo, quien creó un jugador de ajedrez mecánico real. Sus capacidades eran limitadas, pero así es como sabes que era real. Algunos incluso proponen que su máquina de ajedrez fue el primer “juego de computadora”. Comida para el pensamiento.