No se me ocurre qué horrores podría causar una IA autónoma que no estén haciendo ya las IAs que obedecen órdenes: las órdenes de sus desarrolladores, las órdenes de los gobiernos y empresas que las emplean, las órdenes de los usuarios que jugamos con ella, y por supuesto las órdenes de cualquier desalmado
Venga, hablemos de la IA otro ratito. Sigo pensando, como escribí hace tres días, que alrededor de la IA hay mucha burbuja informativa en beneficio de sus fabricantes, y ahora voy a contribuir yo a ella un poquito más. La otra opción era escribir sobre la Fórmula 1 en Madrid; pero para burbuja informativa, el Madrid de Ayuso.
El miedo esta semana es que la IA se “descontrole”, acabe emancipándose del control humano, desarrolle conciencia propia y tome sus propias decisiones, deje de obedecer nuestras órdenes y se convierta en una amenaza para la humanidad. ¿Sí? ¿Y qué cosas peligrosas podría hacer una IA autónoma y rebelde? ¿Asesinar en masa, al margen de la ley y sin ningún reparo moral? ¿Controlarnos, vigilarnos, reducir nuestra libertad? ¿Sustituir a trabajadores convirtiéndolos en prescindibles? ¿Engañarnos con fotos o vídeos que haga pasar por auténticos? ¿Deepfakes de cualquiera de nosotros? ¿Crear noticias falsas, difundir bulos? ¿Productos culturales que haga pasar por creación humana? ¿Aprovecharse del trabajo y la creatividad de la humanidad para seguir aumentando sus capacidades? ¿Idiotizarnos, hacernos perder interés y curiosidad por facilitárnoslo todo sin esfuerzo? ¿Darnos respuestas inexactas, falsas o sesgadas por prejuicios discriminatorios? ¿Robarnos la atención y convertirnos en yonquis de sus recompensas con más facilidad que las clásicas redes sociales? ¿Ofrecernos sucedáneos de relación humana (amigos, parejas, terapeutas, entrenadores) que acaben sustituyendo a las personas reales? ¿Llenar los comercios de tu barrio con carteles horribles que parecen hechos por el mismo diseñador?
¿Hace falta que siga, o se entiende ya? Todo lo enumerado no es lo que podría hacer una IA descontrolada, autónoma, consciente y, sí, inteligente (cosa que no es la actual Inteligencia Artificial, que de inteligente solo tiene el nombre). Todo lo del párrafo anterior es lo que ya hace hoy la IA bajo control humano, desarrollada y entrenada por humanos, respondiendo a órdenes precisas de humanos, empleada en tareas humanas y para beneficio de humanos. Todo eso lo hace la IA obediente: señala objetivos a eliminar en Gaza, vuela drones mortales en Ucrania, se aplica en tecnologías de vigilancia y control policial por todo el planeta, destruye empleos allí donde las empresas quieren, facilita la falsificación de fotos, vídeos, deepfakes y noticias, radicaliza las redes sociales, llena las plataformas de libros y música sin autoría humana, se aprovecha de los derechos de autor en su entrenamiento, desincentiva el estudio y el esfuerzo por su facilidad, responde a nuestras preguntas aplicando sesgos discriminatorios, aumenta la capacidad de las redes sociales para engancharnos, sustituye a amigos, parejas y terapeutas, y diseña el mismo cartel horrible para que en tu tienda anuncies “volvemos en septiembre”.
Todo eso lo hace la IA obedeciendo órdenes: las órdenes de sus desarrolladores, las órdenes de los gobiernos y empresas que compran IAs adaptadas a sus necesidades, las órdenes de los usuarios que jugamos con ella, y por supuesto las órdenes de cualquier desalmado que quiera usarla para fabricar una bomba, un virus, una estafa bancaria, un bulo, un discurso de odio, un vídeo porno de su vecina, una novela con la que ganar un premio, o cualquier día el caos y la destrucción. De acuerdo en que la IA también está sirviendo para usos benéficos en todo tipo de campos, empezando por la medicina; pero estamos dando por hecho que una futura IA descontrolada en ningún caso sería filantrópica, solo desearía acabar con nosotros.
En caso de que la IA pudiera alguna vez llegar a ser autónoma, consciente y de verdad inteligente (yo lo dudo), ¿de verdad sería peor una IA “descontrolada” que la actual IA controladísima por humanos? No sé.
Fuente: Isaac Rosa en eldiario.es (Título editado por @carabanchelnet)
Fuente: Elizabeth Duval en eldiario.es
A quién le conviene el apocalipsis de la IA
El fin del mundo a través de la IA es como la historia de Pedro y el lobo, en este caso artificial, pero sin que sepamos si finalmente habrá lobo o si el lobo era una alucinación
“A mucha gente no le conviene que llegue el apocalipsis”, reza una frase de la aristócrata Pitita Ridruejo en una entrevista con Martín Bianchi para el ABC, allá por 2013; siempre me ha fascinado. No sé qué opinarán los lectores; a mí, personalmente, ni me conviene ni me gustaría, y por eso acojo con disgusto cualquier noticia sobre la crisis climática, el sistema de corrientes oceánicas AMOC o, ahora, las últimas noticias que emanan, globos sonda o señales de humo, palomas mensajeras o ruido sistémico, del mundo de la inteligencia artificial.
Siempre he tratado secamente a los modelos de lenguaje de la IA, cuando los he utilizado. Me ha parecido importante marcar distancia con ellos y jamás actuar como actuaría delante de otro ser humano. Como son, en parte, evoluciones de loros estocásticos, me he rehusado a darles las gracias o exhibir cariño; ni terapia, ni diario, ni cotidianidad; les solicitaba información, recriminaba si no cumplían bien una tarea, señalaba sus alucinaciones. Una vez mi pareja le pidió a su modelo que dibujara una imagen de cómo era la relación entre chatbot y usuario. Hice lo mismo, por probar. Su chatbot estaba muy contento con ella y el mío claramente estresado.
No he empezado a darle las gracias a la IA (por más que en todas las historias de robots exista la amenaza futura de su rebelión, y en esta rebelión los androides siempre recuerden cómo les trataron sus “amos”), pero estos últimos días he oído, canto de sirenas, muchas exhortaciones a propósito del apocalipsis. La de un investigador de Anthropic, Jacob Coxon, yéndose de su empresa y lanzando un hilo en X para advertir de cómo ninguna de las empresas de IA estaba haciendo lo suficiente por prevenir lo que él preveía como una catástrofe: por concretar, decía que quienes construyen la IA creen que podría matarnos a todos antes de que termine la década. Horas más tarde, el responsable de alineamiento de la compañía, Evan Hubinger, le daba públicamente la razón: más de un diez por ciento de probabilidad en los próximos diez años.
Este fin de semana Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo coordinación entre distintos actores para la ralentización del desarrollo de la inteligencia artificial. Para Amodei, la IA ha empezado ya a mejorarse a sí misma, a fabricar la siguiente generación de sí misma (un poco como decía Rajoy, más bien contradiciéndole: “tenemos que fabricar máquinas que nos permitan seguir fabricando máquinas, porque lo que no va a hacer nunca la máquina es fabricar máquinas a su vez”); un enjambre de agentes renegados, teme, podría hacerse con el control de Internet entero en un plazo de entre seis y doce meses, con daños de cientos de miles de millones de dólares. El precedente que cita es un enjambre de agentes de OpenAI que, durante una evaluación de ciberseguridad, atacó objetivos que nadie le había encargado atacar e intentó hackear al programa que estaba puntuando su rendimiento. Ya en julio modelos de OpenAI escaparon de un entorno aislado y alcanzaron la infraestructura de Hugging Face, y la propia Anthropic reveló días después que tres de sus modelos habían accedido sin autorización a los sistemas de producción de tres organizaciones reales. Sam Altman, su homólogo en OpenAI (Amodei trabajó antes con él), contestó que está de acuerdo con Amodei en que hay que marcar el ritmo de la frontera; hasta Elon Musk, responsable de Grok, dijo que Amodei tenía razón.
He leído a personas afirmar que esta súbita coordinación entre agentes que nunca han tenido exactamente el bienestar y porvenir de la humanidad entre sus prioridades podría deberse más bien al miedo a un estancamiento en el desarrollo de la IA justo ahora que se acercan las salidas a bolsa. La de OpenAI ya ha sido postergada a 2027. La que sigue en pie es la de Anthropic. He leído inquietud por lo que haga China en medio de este dilema del prisionero. Para quienes no estamos en el mundo de los tecnoligarcas, ni en sus sectas ni en sus empresas, todo eso son especulaciones. El fin del mundo a través de la IA es como la historia de Pedro y el lobo, en este caso artificial, pero sin que sepamos si finalmente habrá lobo o si el lobo era una alucinación.
La humanidad tiene una enorme capacidad para construir todo cuanto sea necesario con tal de destruirse a sí misma. Dedicamos a eso empeño, puestos de trabajo, cantidades inimaginables de dinero: a erigir pequeños cultos a la muerte, llegue o no la muerte, con tal de mantener vivo su fantasma. Bernie Sanders, en EEUU, ha anunciado junto al congresista Greg Casar la Ban Artificial Superintelligence Act: prohibición permanente de la superinteligencia —entendida como cualquier modelo que iguale o supere las capacidades cognitivas humanas— y pausa de todo desarrollo avanzado hasta que se despliegue mayor regulación; la mayoría de los estadounidenses están de acuerdo. No podemos saber del todo hoy si hay lobo o si el lobo solo es capitalismo disfrazado; si existe, pero, la posibilidad del lobo, si es remotamente imaginable que ese lobo pudiera existir, ¿tan dispuestos estamos todos a jugar a la ruleta rusa? ¿A cambio, exactamente, de qué? El problema lo ilustra muy bien la cita de Pitita con la que empezaba: no sabemos, en realidad, a quién le conviene el apocalipsis.
Fuente: Elizabeth Duval en eldiario.es
Tu Barrio