IA

Patroclo

Geoffrey Hinton, el considerado padrino de la IA: «Hay entre un 10% y 20% de posibilidades de que pueda provocar la extinción de la humanidad» -
https://www.larazon.es/tecnologia-consumo/inteligencia-artificial/geoffrey-hinton-considerado-padrino-ia-hay-10-20-posibilidades-pueda-provocar-extincion-humanidad_202609066a96b3f12d7d3022177a5fab.html

Un investigador de Anthropic cree que hay más de un 10% de riesgo de que la IA "acabe con la humanidad" -
https://amp.expansion.com/tecnologia/innovacion/2026/09/09/6aa11c2fe5fdeac86f8b45a6.html

El CEO de Anthropic pide frenar el desarrollo de la IA: “Me preocupa que pueda tomar el control de todo Internet” vía @eldiarioes https://www.eldiario.es/1_ce13d7

Los gigantes tecnológicos avisan que se avecina una oleada de ciberataques con IA y piden a los gobiernos que se protejan vía @eldiarioes https://www.eldiario.es/1_cd9156

Un ingeniero de Anthropic dimite y denuncia que las empresas de IA ocultan su riesgo real: "Están apostando nuestras vidas" vía @eldiarioes https://www.eldiario.es/1_cdf1d1

Bill Gates se suma a las críticas a la IA: "Si alguien tuviera un plan creíble para frenarla, lo apoyaría" vía @eldiarioes https://www.eldiario.es/1_cd7f2c

A estos trabajadores de la India se les ordenó grabarse para la IA: "¿Quién nos pagará cuando nos sustituyan los robots?" vía @eldiarioes https://www.eldiario.es/1_cd4e5b


Queremos ver las amenazas del siglo XXI mirando al siglo XX. Quizá en este siglo la amenaza no sean (sólo) los nazis. ¿Qué pensáis?

Vlish

Me parece una burbuja, como internet, el ordenador, el vapor o el fuego.

Burbuja que generará perdedores y ganadores, pero que no puede ni debe pararse, si regularse.

Patroclo

+1000

No puede pararse, totalmente de acuerdo.

Nada fácil de regular en una red global, en la que compiten chinos y yankis.

Sabor Fresa

Yo jamás he visto ni conocido en la Historia ninguna tecnología con un avance de similar calibre. La IA está progresando a una velocidad sin precedentes, con tasas de crecimiento en algunas métricas que superan por varios órdenes de magnitud las de las grandes revoluciones tecnológicas anteriores. Y es lo más cerca que estamos de crear un Dios artificial, pero al servicio de una empresa o un gobierno.

¿Burbuja? Puede que financieramente alguna empresa pinche pero no por la propia tecnología sino por la competencia. Pero de burbuja nada: esta tecnología es una revolución absoluta y por desgracia quizás tenga más potencial destructivo que beneficioso. Ya hemos visto a gente como el CEO de Palantir mostrar su absoluta inhumanidad y megalomanía, además de un neoliberalismo extremo y un patriotismo exacerbado.

Mi augurio es que esta tecnología cambiará el orden mundial de verdad, y no para bien.

tricky2k

Vlish escribió : »

Me parece una burbuja, como internet, el ordenador, el vapor o el fuego.

Burbuja que generará perdedores y ganadores, pero que no puede ni debe pararse, si regularse.

Eres demasiado optimista pensando que podrá regularse. En este mismo momento, hoy, ahora, el nivel de amenaza de la IA es comparable a, si allá por los años 40, un buen montón de países hubieran tenido la posibilidad de desarrollar bombas nucleares en lugar de tres o cuatro. De haber sido así, hoy no existiríamos como civilización, así de simple

Si no estamos en una situación similar no es porque la IA no pueda, sino porque los propios desarrolladores se dan cuenta del alcance de sus modelos e intentan todo lo posible por frenarlos, independientemente de regulaciones que, como siempre, llegarán tardísimo y mal. No es ni siquiera una competición entre chinos y yankis, ese Rubicón ya lo cruzamos. La competición es entre las propias IAs con nosotros de "pipas de piedra", que diría mi tío, meros espectadores

A menos que la IA, la que sea, en algún momento cercano, consiga la fórmula del "replicador" de Star Trek y el propietario de esa IA, quien sea, esté dispuesto a compartirla, nuestro futuro primero como individuos, y después como especie, están jodidos

Sabor Fresa

El chiste de que llevemos décadas avisándonos a nosotros mismos de esto en literatura, cine, etc. y aun así lo estemos haciendo es increíble.

Vlish

Aviso que mis conocimientos técnicos sobre la IA es nulo, pero estoy convencido que todas las IA están controladas por sus creadores, sean estados o empresas, y lógicamente no les interesa en absoluto quedarse sin clientes.

Al final ni skynet ni supraconciencia, es acumular información, de forma inimaginable, y saber encontrarla y ofrecerla, de forma inimaginable, el potencial de crecimiento es total, y eso incluye gente que pague por una foto porno de X, o que pida la formula para crear una bomba atómica, pero formas de crear porno existen desde la prehistoria, y hacer un arma no es solo un problema de información.

Inde

Es mi campo, representa que es un tema que domino, entiendo los fundamentos matemáticos, como funcionan los modelos, etc. Y estoy completamente perdido respecto a el futuro que nos espera a medio plazo o incluso corto. Es algo irregulable y sus implicaciones se me escapan.

Esto por no hablar de la crisis laboral a la que muchos vamos de cabeza. Ya no hablo de pérdidas de trabajo, que son ya inevitables, sino a la rotura total del modelo de carrera laboral y de aprendizaje por parte de las nuevas generaciones. Como vamos/van a aprender como funciona X profesión si para cualquier veterano le es más práctico, eficiente y barato tener un ejercito de agentes que a aprendices/recién graduados?

Y encima es una situación terrible en cuanto a teoría de juegos... Porqué alguien va a parar de desarrollar/invertir en pos de "salvarnos" si es evidente que otro lo va hacer si no lo hago yo?

No me veo capacitado para vislumbrar donde vamos (o no quiero verlo), pero por primera vez creo que siento cierta ansiedad preocupado por el mundo que se encontrarán mis hijos

Diony

Sabor Fresa escribió : »

Yo jamás he visto ni conocido en la Historia ninguna tecnología con un avance de similar calibre.

Sencillo: porque ninguna tecnología hasta ahora, había emulado el aspecto más intelectual del trabajo humano, sino el físico, y esa nueva tecnología está al alcance de cualquiera. Simplemente se pueden producir escenarios como estos:



Los que aprendieron cultura en la escasez de información y conocimientos, porque necesitaban ir a la biblioteca o a la escuela para conseguirlos, son el eslabón perdido entre lo que fue y será la nueva humanidad. Somos una especie en extinción, algo primitivo que desaparecerá con los años.