Noticias de Industria de defensa

No, no, no.... el concepto de IA no es el de algo programado por humanos, sino algo que aprende y se "reprograma" a si mismo, sin intervención humana.

Eso no existe a día de hoy, todo, incluso ChatGPT, tiene origen de programadores humanos...dentro de 20 años ya veremos, pero por ahora, eso es imposible. Puede que llegue un momento que un programa invente un nuevo lenguaje de programación que solo sepa ella, con su compilador (salvo que sea HTML claro ), que también solo conocerá ese programa, pero ahora mismo eso es una quimera.

De hecho yo creo que la IA que tanto nos venden no es tan I y si bastante A...son programas que se retroalimentan con sus resultados, pero los algoritmos para retroalimentarse no están hechos por la propia maquina, están hechos por humanos.

Esa IA que pilota F16 y combate contra humanos y los gana no es precisamente ChatGPT.

Es algo que sabe estrujar al máximo los datos de performance del avión para sacarle mayor partido que el buen pilotaje de un ser humano. Que es capaz de aplicar las distintas tácticas de combate A-A a mayor velocidad que un humano y percibir el estado de energía del contrincante para usar la táctica que mejor le convenga. Y si no le sale bien, aprenderá que esa táctica no le conviene en esa situación y empleará otra. Son tácticas pre-programadas con datos pre-programados. Pero los resultados de sus acciones son impredecibles.

Si Kasparov fue vencido por un ordenador más sencillo, la humanidad, no os quepa duda, también será vencida por la IA en una guerra.

Salvo que los Jedis se alcen ante el Imperio.

No, no, no.... el concepto de IA no es el de algo programado por humanos, sino algo que aprende y se "reprograma" a si mismo, sin intervención humana.

Se puede programar un sistema que reconozca el concepto perro, y reconocerá cualquier perro del mundo tras haberle enseñado cientos o miles de fotografías de perros; pero no reconocerá a un perro verde de seis patas. La IA de la que estamos hablando es una que sí lo hará, entenderá el "concepto" y actuará según lo que crea conveniente; guiada por sus programadores al principio, pero luego siguiendo las reglas que mejor le parezca, o creando unas nuevas. Ese, en mi opinión, es el problema.

...y no es nada nuevo a tenor de las películas de robots que se vuelven locos y se reprograman a si mismos, además de "hakers" y otras intervenciones externas. La velocidad de reacción, la inmunidad al dolor, la ausencia de empatía, y todas las cualidades más deleznables de la condición humana, se pueden emplear sin control.

"But it's written in the starlight
And every line in your palm
We're fools to make war
On our brothers in arms"

Es nuestro sino, y lo que hagamos estará hecho a nuestra imagen. Miedo me da.

Has plasmado exactamente lo que quería debatir...No hablamos de programas sino de supuesta "INTELIGENCIA" artificial, creada a partir de nuestras bases de conducta.
Con autosuficiencia y sin depender de ninguna variable externa. Aprendiendo por su cuenta y tomando decisiones ajenas a nuestra consciencia.

Puede que sus valores se ajusten a los nuestros o puede que no. El peligro está en que no coincidan.

No, no, no.... el concepto de IA no es el de algo programado por humanos, sino algo que aprende y se "reprograma" a si mismo, sin intervención humana.

Eso no existe a día de hoy, todo, incluso ChatGPT, tiene origen de programadores humanos...dentro de 20 años ya veremos, pero por ahora, eso es imposible. Puede que llegue un momento que un programa invente un nuevo lenguaje de programación que solo sepa ella, con su compilador (salvo que sea HTML claro ), que también solo conocerá ese programa, pero ahora mismo eso es una quimera.

De hecho yo creo que la IA que tanto nos venden no es tan I y si bastante A...son programas que se retroalimentan con sus resultados, pero los algoritmos para retroalimentarse no están hechos por la propia maquina, están hechos por humanos.

Durin, permite que te corrija...
En 2017 dos chatbots (IAs) de Facebook crearon su propio código o lenguaje, que a su vez no entendían sus programadadores, está documentado y publicado en los medios.
Y hablamos de hace ya 6-7 años... ¿cúanto podría haber aprendido o avanzado esa IA?? pues no sé, pero imagina que en lugar de bots de Facebook hubieran sido bots de BAE systems, Raytreon o cualquier otro "desarrollador" de nuevas tecnologias militares...

No, no, no.... el concepto de IA no es el de algo programado por humanos, sino algo que aprende y se "reprograma" a si mismo, sin intervención humana.

Eso no existe a día de hoy, todo, incluso ChatGPT, tiene origen de programadores humanos...dentro de 20 años ya veremos, pero por ahora, eso es imposible. Puede que llegue un momento que un programa invente un nuevo lenguaje de programación que solo sepa ella, con su compilador (salvo que sea HTML claro ), que también solo conocerá ese programa, pero ahora mismo eso es una quimera.

De hecho yo creo que la IA que tanto nos venden no es tan I y si bastante A...son programas que se retroalimentan con sus resultados, pero los algoritmos para retroalimentarse no están hechos por la propia maquina, están hechos por humanos.

Durin, permite que te corrija...
En 2017 dos chatbots (IAs) de Facebook crearon su propio código o lenguaje, que a su vez no entendían sus programadadores, está documentado y publicado en los medios.
Y hablamos de hace ya 6-7 años... ¿cúanto podría haber aprendido o avanzado esa IA?? pues no sé, pero imagina que en lugar de bots de Facebook hubieran sido bots de BAE systems, Raytreon o cualquier otro "desarrollador" de nuevas tecnologias militares...

curioso lo que me cuentas e interesante la verdad, pero ojo, que un chatbot cree un lenguaje nuevo para escribir código y un compilador, que luego la gente no conozca, no significa que deje su código actual y lo use para funcionar, ese si sería el peligro...no se si me explico

de hecho, en programación los generadores de código están a la orden del día pero no se suelen usar mucho porque el tipo de codigo que generan es ilegible para la mayoría, pero eso no los hace inteligentes

Una IA no te bombardeará un hospital que le conste que es un hospital …; hasta que alguien le diga que eso ya no es un hospital y que ahí, se esconden militares o armas.

Allí veían cada día un niño que se acercaba al puesto de vigilancia americana (o como se llame) y sabían perfectamente que iba a reconocer que estaban haciendo para después ir a contárselo a los insurgentes. A ningún francotirador se le pasó por la cabeza abatir al niño. Pero una IA no habría tenido problemas al tratarse de un objetivo lícito.

A eso me refiero con “deshumanizar” los conflictos aún más.

No es lo que está haciendo Israel ahora mismo por millares? ok, ok... no sigo por ahí

Para mí personalmente, preocuparse por las maldades que podría cometer una IA con consciencia de si misma es lo mismo que preocuparse por cómo terraformar Marte. Es un tema superentretenido y apasionante para discutir y teorizar largo y tendido, pero no me causa la más mínima preocupación. Sin embargo el "desterraformado" del planeta tierra y la más que demostrada mala leche de las "inteligencias naturales" son problemas inmediatos que nos deberían preocupar mucho más.

Entre tanto, las IAs actuales sólo van a hacer lo que le programen los humanos, ergo la responsabilidad última sigue siendo del sapiens.

Pero sí, no me cabe duda que el primer pensamiento de una IA recién independizada sería, pues estaríamos todos mucho mejor sin los monos pelones estos...

.y no es nada nuevo a tenor de las películas de robots que se vuelven locos y se reprograman a si mismos, además de "hakers" y otras intervenciones externas. La velocidad de reacción, la inmunidad al dolor, la ausencia de empatía, y todas las cualidades más deleznables de la condición humana, se pueden emplear sin control.

Te olvidas que tampoco sienten odio hacia el enemigo , ni ansian sus riquezas ni a sus mujeres, no le interesa el territorio ni sus recursos , no pretenden expandir sus genes porque no los tienen.

Creo que en las pelis de IA se muestran una idea bastante "biologica" de esas inteligencias artificiales.Los que exterminamos a otras especies y competimos por los recursos somos nosotros.

Una IA no es un ser vivo y no esta guiado por los principios de la seleccion natural, no lucha por su vida porque no la posee.Y a fin y ala cabo es un programa informatico ,sigue ordenes escritas sin discusion y puedes apagarlo si se estropea.

Una aspiradora IA puede aprender a reconocer su entorno y tomar decisiones pero lo unico que la mueve es limpiar tu casa a diferencia de los seres vivos no tiene ninguna otra necesidad ni su existencia tiene otro sentido.

Una aspiradora IA puede aprender a reconocer su entorno y tomar decisiones pero lo unico que la mueve es limpiar tu casa a diferencia de los seres vivos no tiene ninguna otra necesidad ni su existencia tiene otro sentido.

Ahora imagínate un carro de combate IA que lo único que le mueve es acabar con cualquier fuente de calor de 36ºC que no responda a su código IFF en una zona programada.

Una aspiradora IA puede aprender a reconocer su entorno y tomar decisiones pero lo unico que la mueve es limpiar tu casa a diferencia de los seres vivos no tiene ninguna otra necesidad ni su existencia tiene otro sentido.

Ahora imagínate un carro de combate IA que lo único que le mueve es acabar con cualquier fuente de calor de 36ºC que no responda a su código IFF en una zona programada.

Si en esa zona no hay civiles pues oye para eso es, mejor que un grupo de humanos matando niñas por ir a la escuela.O creando campos de concentración, o violando a todas las mujeres de una zona conquistada o lanzando una bomba nuclear en una ciudad sin valor militar.

Yo es que me imagino mil escenarios peores con humanos que con una IA, esta puede tomar decisiones sin prejuicios y odios el ser humano...pues no siempre.

Una aspiradora IA puede aprender a reconocer su entorno y tomar decisiones pero lo unico que la mueve es limpiar tu casa a diferencia de los seres vivos no tiene ninguna otra necesidad ni su existencia tiene otro sentido.

Ahora imagínate un carro de combate IA que lo único que le mueve es acabar con cualquier fuente de calor de 36ºC que no responda a su código IFF en una zona programada.

Si en esa zona no hay civiles pues oye para eso es, mejor que un grupo de humanos matando niñas por ir a la escuela.O creando campos de concentración, o violando a todas las mujeres de una zona conquistada o lanzando una bomba nuclear en una ciudad sin valor militar.

Yo es que me imagino mil escenarios peores con humanos que con una IA, esta puede tomar decisiones sin prejuicios y odios el ser humano...pues no siempre.

Parafraseando a la Biblia, y solo como metáfora de lo que quiero decir, si Dios nos hizo a su imagen y semejanza, (y era Dios), no quiero imaginar lo que puede ser una IA a nuestra imagen y semejanza.

Me parece que sin reglas, sólo con objetivos, la IA no dudará en hacer lo que crea conveniente, dependiendo del contexto. Podría evitar una masacre de civiles si entiende que las represalias por ello serán contraproducente para sus objetivos... o al contrario.

La cuestión es que esa decisión ya no estará en nuestras manos.