Noticias de Industria de defensa

No desobedece ordenes hasta que aprenda a hacerlo.
Figúrate que aprenda de un Hacker; quien dice que no aprenda a desviar los cortafuegos?
Como le enseñan quien es el bueno y el malo.
Y todo el mundo sabe que cualquier cosa que se sube a la red, por mucho que intentes rastrearla, se queda ahí para siempre.

Fusilado por Ikaro

No digo que no pueda aprender a hacerlo pero no tendra necesidad de ello.
No soy un experto pero una maquina sigue su programacion, si le incluyes una orden la sigue.

Un humano puede desobedecer por miedo, ambicion , sobornos....una maquina no tiene sentimientos ni intereses no carga con instintos heredados de nuestros ancestros ,no tiene necesidad de reproducirse o acumular riquezas para garantizar que sus genes pervivan su unica funcion es cumplir su programacion.

Para una maquina no hay buenos ni malos, no tiene prejuicios ni odios solo cumple lo que le ordenan.

Una cosa es casi segura, la IA no va a violar mujeres, incluso aunque adquiera consciencia propia...

No digo que no pueda aprender a hacerlo pero no tendra necesidad de ello.
No soy un experto pero una maquina sigue su programacion, si le incluyes una orden la sigue.

Si...Pero el caso es que no es un programa bien definido con su principio y su fin. Es un programa que se modifica a si mismo, sin que nosotros sepamos a ciencia cierta por donde y que, va a aprender.

Esta claro que esto es hablar por hablar...y mantener una tertulia.

¿No habéis leído "Yo robot", de Asimov?¿O habéis visto "2001, una odisea del espacio?...?

Esto de la IA ya es antiguo, pero la cuestión que antes era para "el futuro", ahora se convierte en realidad inmediata.

Hay drones con micro-cargas explosivas que se pueden desplegar en una zona, con un programa de reconocimiento facial que discrimina al "objetivo" y lo "neutralizan sin daños colaterales...

...aunque también se pueden programar para "neutralizar" a todo bicho viviente.

Lo que está claro es que las tres leyes de la robótica deberían ser de obligado cumplimiento... lo que no sucede cuando tratamos con cuestiones bélicas...

A eso me refería yo... que en cuestiones bélicas las leyes son las que sabemos, cualquier cosa para mi/nuestra supervivencia ante el enemigo, y cuando la IA tome conciencia o aprenda eso mismo, pues eso....

Está claro que las máquinas no van a violar mujeres como pueden hacer los soldados, pero que llegado el caso puedan cortar el suministro de oxigeno, soltar una toxina o mismamente un petardazo de los gordos en la población (y eso incluye todo, mujeres, niños, bebés, ancianos, enfermos, tu madre tu padre, tus hijos tus sobrinos, todos absolutamente todos) yo lo veo posible.
Ojalá se acote o se programe como decis a la IA para que nunca llegue, pero tener claro que pasar, puede pasar.

Yo no creo que el tema de causar terror sea algo que no se baraje programar en una IA bélica.

Infundir terror o miedo (ya sea crucificando gente y poniéndolos en los caminos, empalando soldados en fronteras, violando mujeres y decapitando varones, haciendo túmulos con cráneos o apilando prisioneros desnudos o soltando un bomba nuclear sobre la población no beligerante de una ciudad por el simple hecho de acabar con el espíritu de resistencia de un pueblo) son formas habituales de combate, penadas algunas y otras no.

Una IA no te bombardeará un hospital que le conste que es un hospital …; hasta que alguien le diga que eso ya no es un hospital y que ahí, se esconden militares o armas.

Y que pasa si le dicen que un hospital. en ese preciso momento es un objetivo. y la IA lo toma por norma en su aprendizaje?

Siento que deberían sacar leyes concretas sobre este tema; A sabiendas de que cada país interpreta los derechos humanos a su modo.

Y que pasa si le dicen que un hospital. en ese preciso momento es un objetivo. y la IA lo toma por norma en su aprendizaje?

Yo lo que entiendo es que asimila, como lo haría cualquiera, que algo que no se debe atacar se puede atacar en determinadas circunstancias.

Pero es de suponer; igual que cualquier militar; que antes de atacar un objetivo sensible pregunte a su cadena de mando para que le aprueben el ataque.

Donde no va a dudar la IA es en bombardear ese hospital una vez le den autorización

No desobedece ordenes hasta que aprenda a hacerlo.

No desobece órdenes, y eso se puede limitar.

Lo que no se puede limitar, es el humano zumbado que hace saltar esa limitación.