¡Bienvenido/a!
Pareces nuevo por aquí. Si quieres participar, ¡pulsa uno de estos botones!
Categorías
Da tu apoyo a Chisland! Desactiva tu bloqueador de publicidad o haz una donación para el mantenimiento del foro! Cualquier cifra vale, puedes leer más información aquí
IA
Geoffrey Hinton, el considerado padrino de la IA: «Hay entre un 10% y 20% de posibilidades de que pueda provocar la extinción de la humanidad» -
https://www.larazon.es/tecnologia-consumo/inteligencia-artificial/geoffrey-hinton-considerado-padrino-ia-hay-10-20-posibilidades-pueda-provocar-extincion-humanidad_202609066a96b3f12d7d3022177a5fab.html
Un investigador de Anthropic cree que hay más de un 10% de riesgo de que la IA "acabe con la humanidad" -
https://amp.expansion.com/tecnologia/innovacion/2026/09/09/6aa11c2fe5fdeac86f8b45a6.html
El CEO de Anthropic pide frenar el desarrollo de la IA: “Me preocupa que pueda tomar el control de todo Internet” vía @eldiarioes https://www.eldiario.es/1_ce13d7
Los gigantes tecnológicos avisan que se avecina una oleada de ciberataques con IA y piden a los gobiernos que se protejan vía @eldiarioes https://www.eldiario.es/1_cd9156
Un ingeniero de Anthropic dimite y denuncia que las empresas de IA ocultan su riesgo real: "Están apostando nuestras vidas" vía @eldiarioes https://www.eldiario.es/1_cdf1d1
Bill Gates se suma a las críticas a la IA: "Si alguien tuviera un plan creíble para frenarla, lo apoyaría" vía @eldiarioes https://www.eldiario.es/1_cd7f2c
A estos trabajadores de la India se les ordenó grabarse para la IA: "¿Quién nos pagará cuando nos sustituyan los robots?" vía @eldiarioes https://www.eldiario.es/1_cd4e5b
Queremos ver las amenazas del siglo XXI mirando al siglo XX. Quizá en este siglo la amenaza no sean (sólo) los nazis. ¿Qué pensáis?
https://www.larazon.es/tecnologia-consumo/inteligencia-artificial/geoffrey-hinton-considerado-padrino-ia-hay-10-20-posibilidades-pueda-provocar-extincion-humanidad_202609066a96b3f12d7d3022177a5fab.html
Un investigador de Anthropic cree que hay más de un 10% de riesgo de que la IA "acabe con la humanidad" -
https://amp.expansion.com/tecnologia/innovacion/2026/09/09/6aa11c2fe5fdeac86f8b45a6.html
El CEO de Anthropic pide frenar el desarrollo de la IA: “Me preocupa que pueda tomar el control de todo Internet” vía @eldiarioes https://www.eldiario.es/1_ce13d7
Los gigantes tecnológicos avisan que se avecina una oleada de ciberataques con IA y piden a los gobiernos que se protejan vía @eldiarioes https://www.eldiario.es/1_cd9156
Un ingeniero de Anthropic dimite y denuncia que las empresas de IA ocultan su riesgo real: "Están apostando nuestras vidas" vía @eldiarioes https://www.eldiario.es/1_cdf1d1
Bill Gates se suma a las críticas a la IA: "Si alguien tuviera un plan creíble para frenarla, lo apoyaría" vía @eldiarioes https://www.eldiario.es/1_cd7f2c
A estos trabajadores de la India se les ordenó grabarse para la IA: "¿Quién nos pagará cuando nos sustituyan los robots?" vía @eldiarioes https://www.eldiario.es/1_cd4e5b
Queremos ver las amenazas del siglo XXI mirando al siglo XX. Quizá en este siglo la amenaza no sean (sólo) los nazis. ¿Qué pensáis?
Accede o Regístrate para comentar.
Comentarios
Burbuja que generará perdedores y ganadores, pero que no puede ni debe pararse, si regularse.
No puede pararse, totalmente de acuerdo.
Nada fácil de regular en una red global, en la que compiten chinos y yankis.
¿Burbuja? Puede que financieramente alguna empresa pinche pero no por la propia tecnología sino por la competencia. Pero de burbuja nada: esta tecnología es una revolución absoluta y por desgracia quizás tenga más potencial destructivo que beneficioso. Ya hemos visto a gente como el CEO de Palantir mostrar su absoluta inhumanidad y megalomanía, además de un neoliberalismo extremo y un patriotismo exacerbado.
Mi augurio es que esta tecnología cambiará el orden mundial de verdad, y no para bien.
Eres demasiado optimista pensando que podrá regularse. En este mismo momento, hoy, ahora, el nivel de amenaza de la IA es comparable a, si allá por los años 40, un buen montón de países hubieran tenido la posibilidad de desarrollar bombas nucleares en lugar de tres o cuatro. De haber sido así, hoy no existiríamos como civilización, así de simple
Si no estamos en una situación similar no es porque la IA no pueda, sino porque los propios desarrolladores se dan cuenta del alcance de sus modelos e intentan todo lo posible por frenarlos, independientemente de regulaciones que, como siempre, llegarán tardísimo y mal. No es ni siquiera una competición entre chinos y yankis, ese Rubicón ya lo cruzamos. La competición es entre las propias IAs con nosotros de "pipas de piedra", que diría mi tío, meros espectadores
A menos que la IA, la que sea, en algún momento cercano, consiga la fórmula del "replicador" de Star Trek y el propietario de esa IA, quien sea, esté dispuesto a compartirla, nuestro futuro primero como individuos, y después como especie, están jodidos
Al final ni skynet ni supraconciencia, es acumular información, de forma inimaginable, y saber encontrarla y ofrecerla, de forma inimaginable, el potencial de crecimiento es total, y eso incluye gente que pague por una foto porno de X, o que pida la formula para crear una bomba atómica, pero formas de crear porno existen desde la prehistoria, y hacer un arma no es solo un problema de información.
Esto por no hablar de la crisis laboral a la que muchos vamos de cabeza. Ya no hablo de pérdidas de trabajo, que son ya inevitables, sino a la rotura total del modelo de carrera laboral y de aprendizaje por parte de las nuevas generaciones. Como vamos/van a aprender como funciona X profesión si para cualquier veterano le es más práctico, eficiente y barato tener un ejercito de agentes que a aprendices/recién graduados?
Y encima es una situación terrible en cuanto a teoría de juegos... Porqué alguien va a parar de desarrollar/invertir en pos de "salvarnos" si es evidente que otro lo va hacer si no lo hago yo?
No me veo capacitado para vislumbrar donde vamos (o no quiero verlo), pero por primera vez creo que siento cierta ansiedad preocupado por el mundo que se encontrarán mis hijos
Sencillo: porque ninguna tecnología hasta ahora, había emulado el aspecto más intelectual del trabajo humano, sino el físico, y esa nueva tecnología está al alcance de cualquiera. Simplemente se pueden producir escenarios como estos:
Los que aprendieron cultura en la escasez de información y conocimientos, porque necesitaban ir a la biblioteca o a la escuela para conseguirlos, son el eslabón perdido entre lo que fue y será la nueva humanidad. Somos una especie en extinción, algo primitivo que desaparecerá con los años.
Dudo mucho de su capacidad de crear valor real y agradezco su ayuda en tareas repetitivas y simples. Lo que me preocupa es la expansión de la ignorancia que ya sucedía pero ahora se intensificará aún más bajo la apariencia de conocimiento robusto que aporta su sintaxis, no su fondo.
Para lo que yo hago, sus outputs suenan rotundos, están bien estructurados y son asombrosamente superficiales. Esto no significa que a falta de competencia humana, se elija a una máquina rápida y barata.
Espero que en algún momento vuelva a ser la herramienta de estadística avanzada que es y dejemos de exagerar. Pero esa es otra. Vivimos en un mundo de impulso instantáneo que crea mucho más contenido sobre cualquier realidad que lo que esa realidad admite, y lo sobrante son subproductos que buscan la promoción del opinante por encima de lo opinado. El problema es que cualquier percepción de un fenómeno acaba siendo autónoma y crea su propio relato.
Si a alguien le interesa, a mí esta conferencia me gustó mucho:
...están en esta habitación con nosotros?
Lo que se escapa a muchos es que sólo vemos una parte, y seguro una pequeñita, de lo que puede hacer una IA, de lo que es capaz actualmente, no digo mañana. Inde, siendo su campo, tiene una visión más amplia y ya veis con qué optimismo afronta el futuro
Decís "Espero que en algún momento vuelva a ser la herramienta de estadística avanzada que es y dejemos de exagerar", o resumiendo otros análisis que leo por ahí, "al fin y al cabo la IA depende de la información que se le facilita". ¿Y nosotros no? ¿Nuestro cerebro no funciona a base de absorber información y extrapolar respuestas en base a ello? ¿No es eso a lo que llamamos "pensar"? ¿Y acaso no alucinamos? ¿No hemos inventado dioses, constelaciones, cosmogonías...?
Hace pocos días, OpenAI ha resuelto, en 88 horas, uno de los llamados "Problemas del Milenio", el de las Ecuaciones de Navier-Stokes. Para ello, se basó en el trabajo de Tristán Buckmaster y Levent Alpoge, que a su vez se basaron en el de los españoles Diego Córdoba y Luis Martínez-Zoroa, que a su vez se basaron en las Ecuaciones de Euler, que a su vez... No sé si entendéis por dónde quiero ir. Ese problema llevaba sin resolver desde el Siglo XIX. Y sí, es probable que en algún momento Córdoba y Martínez llegaran a encontrar la solución sin IA, igual dentro de 20 años. Ah, y el modelo de OpenAI usado es totalmente nuevo, aún no disponible al "gran público". ¿Cuántos de esos modelos no estarán funcionando sin que tengamos conocimiento, o bien encerrados a cal y canto con el chip del wifi desoldado de la placa por si acaso?
Está claro. Y no sólo modelos de OpenAI y Anthropic. Los que están muy callados son los chinos, y qué me da que precisamente en esto no van por detrás.
Lo de OpenAI y el problema del milenio tiene pinta de narrativa interesada y marketing que tira para atrás. De momento, ni siquiera se ha verificado la solución. Pero el titular es lo que cuenta.
Obviamente, todo va muy rápido y quizá dentro de X tiempo esto esté completamente errado. También podría ocurrir lo contrario. Tampoco es que crea que no es nada, es una herramienta útil y puede que en el futuro lo cambie todo. Pero uno es escéptico, respetando a los catastrofistas y a los entusiastas, por supuesto.
Experimentos con GPT5 y Gemini3, hace 6 meses de la publicación de los resultados, por lo que los experimentos comenzaron, digamos, dos meses antes, en enero. O sea, hace 8 meses. En realidad, las conclusiones no fueron que dichos modelos dieran un resultado "pobre". Stanford se centró en la "Teoría de la Mente" y, si hacemos caso al resumen de la IA de Google (¿sesgo por sentirse aludida? Mmmmm):
En cuanto al estudio conjunto de Stanford y MIT
Y más
Llamaría a eso de todo menos pobre, e infravalorarlo o subestimarlo nos va a traer por la calle de la amargura
En la resolución de las Ecuaciones de Navier-Stokes se ha usado un modelo más avanzado que el último GPT6-Astra. En este caso no ha habido un "estudio doble ciego" ni nada por el estilo porque no había ninguna conclusión ni publicada ni por publicar, un problema no resuelto. Ese modelo lo ha hecho con, evidentemente, información disponible, pero a la solución ha llegado por sí mismo
Las ciencIAs avanzan que es una barbaridad, y si OpenAI o Anthropic no las limitaran avanzarían aún más. Que ambas, y muchos más, cuentan con modelos experimentales que nos cagaríamos la pata abajo es algo de lo que no tengo pruebas, pero aún menos dudas
Que los fabricantes no van a recoger "data" de los niños NO SE LO CREEN NI ELLOS.
Y el que lo crea es que vive en la puta Luna, lo siento.
La salida a bolsa creo que es un elemento clave y fundamental, dejando los chascarrillos de lado, claro.
- Dejarnos vivir como a mascotas, administrando nuestras necesidades y nuestro comportamiento (juicio subjetivo basado en parámetros morales). Sin duda sería el fin del capitalismo ya que la IA administraría los recursos y a la población de forma eficiente y lo más eficiente es el reparto igualitario.
- Acabar con nosotros por considerarnos una plaga nociva para el resto de la naturaleza y para si misma. (juicio objetivo basado en parámetros técnicos). Sin duda sería el fin de todo. Y no creo que utilizara terminators, basta con interrumpir cadenas de suministro, generación de energía, sistemas informáticos...
Me ha parecido muy acertada la analogía de las mascotas.
¡Muy bueno!
Reconozco que no lo he visto aún, pero estoy bastante seguro de que será claro e interesante.
De lo que he leído, la inflación de opiniones, contenido, sensacionalismo y necesidad de novedades apunta a la fragmentación de la experiencia humana en la calderilla de lo actual, como advertía Walter Benjamin, "nos hemos vuelto pobres" con el cambio. Pero esa es otra historia.
¡Bingo!
JAJAJAJAJA.
Mientras exista la escasez relativa, el método más eficiente fuera del mercado, es el reparto por mérito individual.
Gracias a dios hay un presidente, uno solo, con un CI altísimo y eso es todo lo que hace falta
Me gusta mucho este señor. Si me lleva al huerto y me engaña pues...estoy perdido. Pero tiendo a creer más que me intentan manipular otros
PD: le acabo de pasar mi comentario al robot y lo ha expresado mejor:
Decir que tiene riesgos es prácticamente redundante. Decir que hay un 10% de posibilidades de que destruya la humanidad en menos de una década es muy probablemente falaz e interesado.
Matar YA está mantando -Palantir- pero "matarnos a todos" suena a sembrar miedo para hacer negocio con la seguridad.