NTN 388 - 🤖 Apple colapsa, OpenAI canta, y la IA hace ciencia 373a46

Buenas, buenas. Bienvenidos a otro episodio de No Tiene Nombre. Mi nombre es Bruno Capuano y hoy vamos a hablar de todo un poco porque hoy he agarrado noticias que tenías apuntada de la semana pasada y las voy a repasar en modo pelotero rápido. Así que empezamos con los amigos de Apple que han tirado la bomba y básicamente lo que han dicho es que los modelos de razonamiento son unos mentirosos.

Y a ver, todo esto viene porque acaban de presentar un estudio donde básicamente dicen que los modelos que dicen razonar son unos farsantes. El estudio se llama La ilusión del pensamiento y no revela nada nuevo, dice lo que todos ya sabíamos, pero lo interesante de esto es que Apple diciendo que los modelos de AI no sirven es como que venga Nike y te diga que las zapatillas de la vida son malas.

Apple se ha quedado atrás en la carrera de AI. Ya hay algunos que lo comparan con el nuevo BlackBerry y cosas por el estilo. Yo no creo que sea para tanto, pero sí es cierto que si te has quedado atrás en la carrera de la inteligencia artificial y te quieres poner al día una de las estrategias más baratas, por decirlo de alguna manera, sería empezar a publicar que publicar papers que dicen que lo que existe, lo que existe hoy no funciona. Lo que dicen literalmente y aquí lo he traducido es que los modelos de razonamiento exhiben un límite de escalamiento contraintuitivo.

Su esfuerzo de razonamiento aumenta con la complejidad del problema hasta cierto punto, luego declina a pesar de tener un presupuesto de tokens adecuado. ¿Qué significa esto? Pues básicamente lo que ya sabíamos es que estos modelos al principio se esfuerzan muchísimo, pero cuando la cosa se pone difícil se ponen a hacer otras cosas. Es como cuando te pones a armar un cubo de rubi que le pones muchas ganas al principio, pero cuando ves que no llegas a ningún lado lo pones en un cotado y te vas a ver Netflix. Aquí es donde los modelos hacen de nuevo lo que ya sabíamos.

Como se basa en modelos de coincidencia o se basa en modelos de patrones, pues no tienen capacidades genuinas de razonamiento. De nuevo, esto es algo que ya sabíamos, pero Apple no nos presenta como qué malos que son los modelos. Lo más gracioso de todo esto es que, y de nuevo, esto ya se sabe, cuando los modelos le das un algoritmo paso a paso para resolver los problemas van bien, pero cuando el problema es muy grande siguen fallando. Entonces, pues bueno, estos modelos, la AI está lejos, la inteligencia general artificial y demás está lejos, pero no hacía falta que vengan a recordarnos los de esta marea.

Por otra parte, si lo queremos pensar de otro lado, llega la gente de Anthropy con un movimiento un poco más raro, que es, han nombrado a Richard Fontaine su parte del equipo de Trust que tienen para asegurar que los modelos funcionan de una forma segura. Y a ver, el título oficial es Long Term Benefit Trust y, ojo, Richard Fontaine es un hombre que tiene peso, tiene mucho, mucho peso. Es el CEO de un centro para una nueva seguridad americana y, básicamente, es la persona que va a mantener a Anthropy en el lado bueno de la fuerza, no va a permitir que se vayan todos para el dark side.

Pero es un movimiento estratégico, muy estratégico. ¿Por qué? Porque esta persona tiene un currículum que haría que James Bond se largara llorar de envidia. Ha trabajado en el Departamento de Estado, en el Consejo de Seguridad Nacional, fue asesor de política exterior del senador John McCain y la lista sigue. Entonces, lo de ponerlo en Trust es un beneficio a largo plazo, pero también te hace pensar ¿Por qué? ¿Por qué llegamos a un punto donde necesitamos poner a expertos de seguridad nacional para supervisar chatbots? Y aquí te das cuenta de que ya no son chatbots, que las implicaciones y el trabajo de estos modelos van mucho más allá de lo que hago yo con Cloud, por ejemplo, que es hacer estos resúmenes.

Así que, hey, cosas interesantes. Saltamos, ya que hablamos de Anthropy, saltamos a los amigos de OpenAI, obviamente, que lo que han sacado es que han pedido una actualización que nadie pidió del modelo de Advanced Voice, el Advanced Voice Mode. Y parece que funciona mal, yo no sé, yo no he notado la diferencia, es más, ni me he enterado. Pero, pero han dicho que este modelo mejora mucho la versión anterior, yada, yada, yada, porque la anterior era muy mala, como si hablaras con ArchuD2, no sé.

Según las notas dice que esta nueva versión es más expresiva y natural, con mejores capacidades de traducción. Dice...