Los verdaderos riesgos de la IA según algunos expertos

Les traigo a colación un muy interesante artículo del no menos interesante blog de Scott Sumner, sobre este tema que tanto nos interesa o inquieta, últimamente, la inteligencia artificial (IA).

Entresaco algunas ideas u observaciones que me han parecido interesantes aunque no necesariamente esté en acuerdo, desacuerdo o mediopensionista con ninguna de ellas:

  • Hay una gran desconexión entre lo que piensan los insiders y las personas normales sobre la IA. Según un sondeo reciente las preocupaciones de las personas normales son:
    – Riesgo de pérdida del elemento humano
    – Riesgo de pérdida de empleo
    – Riesgo de intromisión en nuestra intimidad por acceso a nuestros datos, vigilancia, etc

  • Al público en general no le preocupa el riesgo existencial mientras que algunas de las personas más inteligentes del planeta piensan que su probabilidad ya les produce incomodidad.

  • Sumner hace mención a un ensayo bastante “famoso” en los últimos días de Leonard Aschenbrenner (graduado como el mejor de su clase con 19 años de Columbia) en el que básicamente argumenta, que, igual que en otras ocasiones, no hay un grupo de gente, de “líderes mundiales” que estén vigilando la situación y dispuestos a intervenir cuando la ocasión lo requiera. No nos damos cuenta de la que se nos viene encima y de que sólo hay un grupito de amiguetes intentando que la cosa no se venga abajo. Para dar más tranquilidad hemos pasado de D. Eisenhower en los 50 a Trump and friends en la actualidad.

  • Plot twist: tampoco hay un grupo de expertos de guardia al mando de la política económica y monetaria como se vio en 2008 cuando todo fue una gran improvisación que acabo saliendo bien.

  • Lo que más gracia me ha hecho es la mención a la película Melancholia (que no he visto) de Lars von Trier en la que mientras los expertos sabían que el mundo se iba a acabar la gente seguía pasándoselo bomba.

En fin, no he aportado nada que no diga el artículo, que les recomiendo encarecidamente así como el blog en general. Sí me ha hecho preocuparme un poco más de lo que lo estaba (y no lo estaba prácticamente nada). Realmente mi gran preocupación hasta ahora era que si esto de la IA sale bien, íbamos hacia el comunismo pues no tendríamos los humanos mucho que aportar (el 1er punto de más arriba). Y ahora nos dicen los que saben de esto que ese es el caso optimista.

Me voy a comer un bocata de jamón del mejor que encuentre, que esto nunca se sabe cómo va a acabar. ¡¡¡Suerte a los de la IF!!!

26 Me gusta

Y también a los de la IA.

3 Me gusta

A nivel político servidor cree que no veremos a nadie dar la cara ante esto, y eso que Europa tardó bien poco en sacar su “AI act”, pero justo se centra en las preocupaciones del público general que usted muy bien diferencia.

En la esfera de nuestros locos billonarios yo apostaría mis 50 centavos a Elon Musk, quien sabe si por ser él mismo una AI del futuro, que a la que puede intenta destapar los desmanes de las tecnológicas del sector. En su biografía se explica la animadversión hacia Alphabet y se comentan sus aventuras y desventuras con Sam Altman y OpenAI, de la que fue fundador. La tónica común de todo ello es el miedo que tiene a que la AI se convierta en una de las mayores amenazas contra la humanidad, y hablamos de alguien que se dedica a construir cohetes para que la humanidad pueda huir de la Tierra.

Edito mi sitio privilegiado en el hilo del fin del mundo para dejar a mano el podcast que recomienda el autor, porque parece muy interesante.

Y si son más de leer que de escuchar, aquí pueden leer a Leopold Aschenbrenner

11 Me gusta

Hoy mismo en el economista
*** En ningún momento se plantea sustituir los puestos de trabajo con IA, será un complemento que ayude***

Donde dice “en ningún momento”… eliminen las palabras “en ningún momento”
Y queda “Se plantea sustituir…

4 Me gusta

unas imágenes valen más que mil palabras, le dejo a mi ayudante expresándose por mi

9 Me gusta

Muy interesante el punto de vista aunque tengo que “agradecerle” el hacerme recordar los terrores/temores que con mucho trabajo había conseguido olvidar.

Tras leer un par de libros que creo que ya comenté por este foro en su día (Life 3.0 de Max Tegmark y después, como consecuencia, Superintelligence de Nick Bostrom) mi mejor esperanza es que la IA tenga a bien llevar a cabo el cambio sin descuidar nuestra dopamina y básicamente ni enterarme. Y siendo sincero la situación no me preocupa por lo que a mí respeta pero sí reconozco que tengo pánico, y lo digo en serio, por mi hija.

Por cierto en Life 3.0 se menciona el encontronazo entre Musk y Page que por lo que he oído, todavía no la he leído, aparece en su reciente biografía.

10 Me gusta

Si a alguien le gusta la ciencia ficción hay un escritor, William Hertling, que tiene unos cuantos libros con futuros plausibles. Es literatura facilona, no esperen grandes clásicos, pero la saga de Avogadro Corp sirve para pasar unos ratos entretenidos a la vez que visualiza posibles consecuencias de la llegada de la IA de verdad. Avogadro Corp por cierto está claramente inspirada en una de nuestras admiradas siete magníficas.

9 Me gusta

Justo el amigo del foro Javier Díaz Giménez comenta en su charla con Marcos otro libro Crisis 2038: A novel, de Gerald Huff. Están haciendo que la lista de lecturas no deje de aumentar (y agradecido por ello).

11 Me gusta

Para aumentar la intranquilidad de don @arturop les dejo un enlace a una breve charla de 2 horas y 15 minutos de Lex Fridman con un investigador en seguridad en IA (escribió artículos sobre seguridad en IA ya por 2010), Roman Yampolskiy.
Un pelín apocalíptico, pero algunos argumentos son muy potentes.

11 Me gusta

Poniéndome en la barra del bar apoyado con palillo en la boca y un vasín de leche de los que le gustan a @Fernando voy a dar un par de pinceladas de este tema recurrente en el tiempo siempre que se hace un avance.

  • Aún no se sabe si conseguiremos inteligencia artificial general. El camino va a ser lento, por lo tanto no se preocupen que las legislaciones llegarán, hay miles de expertos que estaban en la cima de su ciencia en cada momento que han hecho predicciones totalmente erróneas y seguirá ocurriendo. No podemos capturar una imagen estática y proyectarla a futuro, los ecosistemas son adaptativos, si se producen avances en IA también se tendrá más conocimiento para contrarestar sus potenciales efectos negativos.

  • Veo más probable ahora mismo que dañemos la civilización nosotros mismos a que una malvada entelequia en forma de IA controle nada, es una bonita distopía para los que viven en una burbuja en San Francisco / Silicon Valley, cuando la mayoría del mundo es terreno árido para la tecnología, bastante tenemos con que llegue Internet a ciertos lugares.

  • Ahora mismo los LLM son lo que se conoce en informática como “black box”, uno puede ser consciente de los pesos matemáticos en cada nodo y conocer el proceso al dedillo pero no entender cómo realmente ha sacado una conclusión o ha decidido el modelo y de lo que ha aprendido qué es lo que le ha llevado a hacerlo así. Ahí hay un gran recorrido de aprendizaje.

  • Las infraestructuras están cada vez más automatizadas pero se está lejos no, lejísimos de no necesitar interacción humana. La realidad simplemente es demasiado bizarra, si la conducción autónoma aún no se ha conseguido siendo un problema mucho mejor definido imaginen hacer el mantenimiento de una central eléctrica o una fundición y conseguir la AGI.

No sé, le podemos dar las vueltas que queramos, los humanos de hace 1000 años no tendrían una capacidad cognitiva muy diferente a nosotros y sin embargo la falta de herramientas adecuadas les privaban de los lujos modernos, como no pasar hambre ( y no en todos los lugares del planeta ). Una IA por muy creativa o inteligente que fuera necesita una acumulación tecnológica para llevar a cabo sus maquiavélicos planes, además a medida que se avanza en el conocimiento de la misma nada impide que nosotros mismos nos mejoremos biológicamente o con implantes. No podemos negar la posibilidad de mil escenarios paralelos y parece que tenemos una tendencia a que nos guste imaginar lo apocalíptico, pero yo viendo como funcionan las cosas a base de parches y chapuzas en todos lados veo a una IA más desesperada por nuestra inoperancia e incompetencia que intentando conquistar el mundo.

31 Me gusta

Muy interesantes sus reflexiones, estando muy de acuerdo con ello en general. Jugando a abogado del diablo creo que hay un punto de debate muy interesante.

Una razón por la que al ser humano le gusta imaginar lo apocalíptico es por la facilidad asociada a la destrucción. Uno puede tardar cientos de años en construir una ciudad como Dresden pero el enemigo podría ser capaz de destruirla en minutos o segundos si se dieran las circunstancias. Llegar a la cima del conocimiento que requiere la construcción es una ardua tarea pero saber lo necesario para destruir es mucho más sencillo. La literatura de ficción está llena de ejemplos del fin del mundo totalmente plausibles pero verá pocas soluciones realistas e implementables para construir un futuro mejor. Una de las razones es que tanto la raza humana como la vida en el planeta tierra son realmente complejas y cualquier variación puede suponer un desastre, y para que dichas variaciones ocurran no es necesario conocer el por qué.

Sirva como ejemplo la capacidad del ser humano para desarrollar venenos y algunas soluciones médicas desde hace siglos sin tener los conocimientos necesarios, o la invención de las primeras aleaciones metálicas en la Edad de Bronce sin conocer las características químicas de las reacciones.

Además el desconocimiento puede llevar a la destrucción muy alegremente, en la película de Oppenheimer se dramatiza, quizás por encima de la realidad, la inquietante posibilidad que Edward Teller, Hans Bethe y otros asociaron a las pruebas iniciales de la bomba nuclear: la ínfima, pero no nula, probabilidad de que una detonación nuclear pudiera desencadenar una reacción en cadena descontrolada en la atmósfera que acabaría incendiando la misma o los océanos y resultando en la destrucción total del planeta. Finalmente los cálculos, el conocimiento, demostraron que la cantidad de energía necesaria era mucho mayor a la que emitiría la bomba.

Con la Inteligencia Artificial podría darse lo mismo, que el conocimiento esté en pañales pero el riesgo latente sea alto, algo así como en ¿Teléfono rojo? Volamos hacia Moscú (1964) - FilmAffinity (gran comedia para aquellos que no la conozcan). Mis amigos del sector temen más por ese lado que por el de una Inteligencia Artificial General que nos tiranice, se teme la realidad de que un sistema es tan frágil como la más frágil de sus partes, y ya menciona usted que hay muchos sistemas llenos de parches y chapuzas.

18 Me gusta

Saludos cordiales.

Además, la inteligencia de una IA es una imposición exógena mientras que la nuestra es un proceso endógeno. Las especies de seres vivos están inmersas en el proceso de evolución que impone la selección natural y me inteligencia es una adaptación más que ha triunfado mientras ha sido beneficiosa y seguramente lo seguirá haciendo aunque la inteligencia humana ha conseguido desarrollar armas nucleares que pueden destruir el mundo, ha conseguido que podamos contaminar parajes como el Everest, llenar de plásticos el océano, aumentar el CO₂ en la atmósfera… que son procesos pernicioso potenciaemte letales.

Sin embargo, la inteligencia de las IA son imposiciones exógenas cuyos están programados y no cubren ninguna necesidad propia.

Ante órdenes ambiguas como ‘haz lo mejor para los humanos’ tal vez tome una decisión como la que se plantea en La carretera, una novela distópica escrita por Cormac McCarthy, publicada en 2006. que se desarrolla en un mundo post-apocalíptico y sigue a un padre y su hijo mientras viajan por una desolada y peligrosa carretera en un intento por sobrevivir.

El corazón de la novela es la relación entre el padre, que no es nombrado, y su hijo, a quien se refieren como “el niño”. El padre está decidido a proteger y cuidar a su hijo en este mundo despiadado. A medida que viajan hacia el sur en busca de un clima más cálido y la esperanza de una vida mejor, enfrentan numerosos peligros y desafíos.

A lo largo de su viaje, el padre se enfrenta a dilemas morales desgarradores. En varias ocasiones, se ve obligado a tomar decisiones difíciles para garantizar la supervivencia de su hijo. Uno de los dilemas más angustiosos es cuando el padre considera la posibilidad de matar a su hijo para evitarle un futuro de sufrimiento en un mundo sin esperanza ni bondad.

Sin embargo, no tiene por qué competir con nosotros si tiene incluidas esas directivas. De hecho, igual que entendemos a una IA para ganar al ajedrez podríamos entrenarla para que perdiera el máximo dinero posible invirtiendo y se mostraría indiferente porque, al contrario que nosotros, no saca ningún provecho ganando o perdiendo.

4 Me gusta

También con palillo entre los dientes y vaso de leche enriquecido con leche condensada diría que:

Esta posibilidad que comenta enfrenta a la humanidad contra la IA maligna que se nos escapa de las manos pero obvia que ese “nosotros” no engloba a todos nosotros y que probablemente ese “nosotros mejorados gracias a implantes y varios obtenidos por IA” se esté planteando aniquilar a esos “vosotros” o en alianza con estos aniquilar antes a “ellos”.
No es una lucha humanidad versus IA, a eso no nos va a dar tiempo a llegar je jejej
Antes será que iremos a una escabechina entre nosotros usando la mejor tecnología punta… con suerte si la IA es realmente una IA general, se autodestruirá a si misma antes de que lo hagamos entre nosotros usando IA

9 Me gusta

Comprendo que alguien con conocimientos sobre el tema, se asuste e intente avisar al personal de la que se avecina.
Yo prefiero seguir ignorante y que se preocupen ellos (vale para la IA, cambio climático, chemtrails, Soros, Trump, Putin, etc)
Por supuesto, con palillo e incluso copita en la mano.

16 Me gusta

No se si conocen a Eliezer Yudkowsky. Adjunto una charla TED suya donde expone los riesgos y la necesidad de regular la IA:

Más de 20 años relacionado con la IA. A uno le dan ganas de coger un hacha, jeje.

Supongo que esta es una de esas cosas sobre las que no merece la pena asustarse ya que no dependen de uno. Quien sabe donde llegaremos.

12 Me gusta

Tanta AI y luego no somos capaces de acabar con las guerras, el hambre o solucionar el agujero de las pensiones.

5 Me gusta

Estamos muy necesitados de la inteligencia artificial visto que es más que evidente y probado que no hay la suficiente inteligencia natural.

Se que la anterior afirmación puede generar dudas ante tan docta audiencia. Pue bien, disípenlas con la visión de tres capítulos seguidos, es necesario que sean tres, de First Dates.

Para ayudarles en el necesario recogimiento espiritual en sus meditaciones sobre lo expuesto, acompaño estas líneas con un hit que ayuda a ello.

13 Me gusta

Suelo decir que el que una empresa robotice o implemente sus servicios con inteligencia artificial puede que entrañe algún peligro; pero quizás no hacerlo puede que sea más peligroso.

Me refiero a que cada vez la IA está más implantada, según se puede leer en este foro y en otros las empresas cada vez invierten más en datacenters, desarrollo de software, etc. Así que quizás las empresas y estados que no apuesten firmemente por esta tecnología pierdan competitividad a favor de los que sí que lo hacen. Quién sabe.

Dicho lo cual, soy un firme defensor de la regulación, y no es un tema en absoluto sencillo. Dentro del propio sector, hay opiniones dispares sobre los peligros que puede entrañar todo esto, o las vías de regulación. Eliezer Yudkowsky es conocido, junto a otros muchos, por ser parte de los investigadores más pesimistas, pero por otro lado tenemos a otros investigadores, como Gary Marcus. En su momento histórico, la radio, la aviación, la automoción o incluso los ascensores crearon cierta alarma social.

Quizás sea ocasión de replantearse cuál es el sentido social del trabajo y ver si existe alguna manera de dedicar nuestro preciado tiempo a otras tareas. Lo que está meridianamente claro es que si no nos planteamos estas cuestiones, alguien de fuera tomará la decisión por nosotros.

Finalmente, mis 2 cents van para la obra Cuatro futuros, de Peter Frase, donde se describen cuatro posibles escenarios socioeconómicos en función de nuestra relación con los robots y la cantidad de recursos disponibles. Es una obra que traigo a colación a menudo en cenas.

9 Me gusta

Acabo de escuchar el podcast de Juan Such con Andrés Torrubia sobre el tema
El tsunami de la Inteligencia Artificial con Andrés Torrubia - ep. 89 podcast de Juan Such

Me gustó mucho, aporta un punto de vista relativamente desde dentro, o al menos desde alguien que lo usa intensamente, y ofrece un punto de vista un poco de “jarro de agua fría” para los más forofos. Ve las cosas mucho menos avanzadas de lo que nos cuentan en otros sitios y se centra especialmente en la pérdida de calidad/utilidad a la que se está dirigiendo todo el mundo de IA.

Está claro que la situación tal como nos la describe Andrés Torrubia está lejos de una IA general. Básicamente tenemos a un fuera de serie en correlaciones que es un cero en causalidades y poco más.

Para mí el punto es: ¿es posible diseñar una IA general o no? ¿se conseguirá?. Obviamente no tengo ni la más remota idea de si es factible o no. Si se consiguiese la verdad es que le veo poco margen a lo que somos actualmente. Pero no sabiendo si sucederá o no y, de hacerlo, no viendo nada que uno pueda hacer que afecte al resultado final, la actitud más razonable seguramente sea la que comentan de no darle vueltas y centrarse en otras cosas.

8 Me gusta

Saludos cordiales, @Andrei.

En Sobre la IA, ¿y por qué debería importarnos? - nº 123 por Buso enlace el siguiente artículo que explica cómo funciona ChatGPT.

No sé a qué nos referimos al decir que decide sus respuestas mediante correlaciones. Cada término está contenido en una multitud de relaciones con otros. ¿Seguro que nosotros no hacemos algo parecido? Causa-consecuencia es una relación también.

Nuestras mentes son una prueba de que es posible.

Ahí discrepo. Ignorar la situación no me parece la mejor opción.

5 Me gusta