Noticias de Industria de defensa

Entonces ya no es IA...es un programa cualquiera. No toma decisiones por su cuenta.
Es a lo que me refiero; el peligro de dejarla a su aire.

Pero y lo que molará el día de mañana decir:

Mi Boeing; trázame una ruta alternativa al aeropuerto de La Guardia desde mi posición en función del combustible actual y la posición actual evitando el frente que se aproxima.

Si comandante; ruta propuesta en pantalla…

Mi Boeing ejecuta

Si comandante



Pd.: y sube los escudos láser de paso

Estáis hablando que la IA cumpla ordenes y/o leyes internacionales cuando los humanos somos los primeros en saltarnos esas mismas leyes sabiéndolo.

Personalmente me dan mas miedo los humanos que una IA.

Pd.: y sube los escudos láser de paso

Una IA no te bombardeará un hospital que le conste que es un hospital …; hasta que alguien le diga que eso ya no es un hospital y que ahí, se esconden militares o armas.

La IA se rige con las reglas que el humano que la programé le de. El vídeo que he subido es de un documental en el que sale también un francotirador que te explica su experiencia en Irak. Allí veían cada día un niño que se acercaba al puesto de vigilancia americana (o como se llame) y sabían perfectamente que iba a reconocer que estaban haciendo para después ir a contárselo a los insurgentes. A ningún francotirador se le pasó por la cabeza abatir al niño. Pero una IA no habría tenido problemas al tratarse de un objetivo lícito.

A eso me refiero con “deshumanizar” los conflictos aún más.

Un ejército de IA no tendrá ningún tipo de escrúpulo para cumplir la misión. Y estará dotado de capacidades que superarán a cualquier ejército humano. Por ejemplo, no sufrirá si abaten al compañero ni irá a socorrerlo. No necesita descansar ni alimentarse. Aprenderá de sus errores y podrá coordinarse por datalink con otras unidades para actuar como uno solo. Y cualquier foco de calor de 36ºC en una determinada zona en un determinado contexto será un blanco lícito a abatir. Aunque sea un niño o un civil inocente.

Los efectos de un ejército así sobre la población civil en el futuro dan mucho miedo.

Personalmente me dan mas miedo los humanos que una IA.

Y quien la a programado?

Personalmente me dan mas miedo los humanos que una IA.

Y quien la a programado?

Exacto. Lo programarán los que se saltan la convención de Ginebra.

Una IA no te bombardeará un hospital que le conste que es un hospital …; hasta que alguien le diga que eso ya no es un hospital y que ahí, se esconden militares o armas.

La IA se rige con las reglas que el humano que la programé le de. El vídeo que he subido es de un documental en el que sale también un francotirador que te explica su experiencia en Irak. Allí veían cada día un niño que se acercaba al puesto de vigilancia americana (o como se llame) y sabían perfectamente que iba a reconocer que estaban haciendo para después ir a contárselo a los insurgentes. A ningún francotirador se le pasó por la cabeza abatir al niño. Pero una IA no habría tenido problemas al tratarse de un objetivo lícito.

A eso me refiero con “deshumanizar” los conflictos aún más.

Un ejército de IA no tendrá ningún tipo de escrúpulo para cumplir la misión. Y estará dotado de capacidades que superarán a cualquier ejército humano. Por ejemplo, no sufrirá si abaten al compañero ni irá a socorrerlo. No necesita descansar ni alimentarse. Aprenderá de sus errores y podrá coordinarse por datalink con otras unidades para actuar como uno solo. Y cualquier foco de calor de 36ºC en una determinada zona en un determinado contexto será un blanco lícito a abatir. Aunque sea un niño o un civil inocente.

Los efectos de un ejército así sobre la población civil en el futuro dan mucho miedo.

Pero eso es lógico; envías gente que no son “beligerantes” o que hacen dudar de tu escala ética…; un crimen de guerra de quien los envía….; pero a la vez si les disparas tú cometes un crimen de guerra también; da igual que sea un tirador humano o una máquina con tu bandera

No, no, no.... el concepto de IA no es el de algo programado por humanos, sino algo que aprende y se "reprograma" a si mismo, sin intervención humana.

Se puede programar un sistema que reconozca el concepto perro, y reconocerá cualquier perro del mundo tras haberle enseñado cientos o miles de fotografías de perros; pero no reconocerá a un perro verde de seis patas. La IA de la que estamos hablando es una que sí lo hará, entenderá el "concepto" y actuará según lo que crea conveniente; guiada por sus programadores al principio, pero luego siguiendo las reglas que mejor le parezca, o creando unas nuevas. Ese, en mi opinión, es el problema.

...y no es nada nuevo a tenor de las películas de robots que se vuelven locos y se reprograman a si mismos, además de "hakers" y otras intervenciones externas. La velocidad de reacción, la inmunidad al dolor, la ausencia de empatía, y todas las cualidades más deleznables de la condición humana, se pueden emplear sin control.

"But it's written in the starlight
And every line in your palm
We're fools to make war
On our brothers in arms"

Es nuestro sino, y lo que hagamos estará hecho a nuestra imagen. Miedo me da.

No, no, no.... el concepto de IA no es el de algo programado por humanos, sino algo que aprende y se "reprograma" a si mismo, sin intervención humana.

Eso no existe a día de hoy, todo, incluso ChatGPT, tiene origen de programadores humanos...dentro de 20 años ya veremos, pero por ahora, eso es imposible. Puede que llegue un momento que un programa invente un nuevo lenguaje de programación que solo sepa ella, con su compilador (salvo que sea HTML claro ), que también solo conocerá ese programa, pero ahora mismo eso es una quimera.

De hecho yo creo que la IA que tanto nos venden no es tan I y si bastante A...son programas que se retroalimentan con sus resultados, pero los algoritmos para retroalimentarse no están hechos por la propia maquina, están hechos por humanos.