El secretario de la Sociedad Paraguaya de Inteligencia Artificial (SPYIA), Luis Benítez, advirtió que las amenazas en el campo de la inteligencia artificial (IA) representan riesgos reales para la humanidad y no meras especulaciones de ciencia ficción. Según Benítez, el principal problema radica en la falta de alineamiento con los valores humanos, la ética o la moral en el desarrollo de estas tecnologías.
La carrera comercial y el uso militar
Benítez señaló que gigantes tecnológicos como Anthropic y OpenAI se encuentran en una fase previa a su salida a la bolsa, priorizando la captación de capital y el desarrollo acelerado por encima de la seguridad. Advirtió que estas tecnologías ya cuentan con aplicaciones militares activas desde hace décadas, habiéndose utilizado recientemente en zonas de conflicto como Gaza e Irán.
El especialista alertó sobre el peligro de delegar decisiones críticas de infraestructura a sistemas autónomos. 'No es un mito, es una cuestión que puede suceder', recalcó, señalando que la IA podría tomar decisiones catastróficas sin medir las consecuencias, como la hipotética destrucción de la represa de Itaipú o la selección de objetivos militares autónomos.
Amenazas biológicas y manipulación democrática
El riesgo se extiende también al ámbito biomédico. Recientemente, la firma Anthropic reveló haber bloqueado intentos de utilizar sus modelos para investigar toxinas bacterianas, venenos no contagiosos y virus con potencial pandémico como el ébola o modificaciones para hacer más transmisible el chikungunya.
Finalmente, Benítez advirtió sobre el impacto de los algoritmos en los sistemas democráticos, influyendo directamente en las decisiones de la ciudadanía a medida que se delega más control a estos sistemas automatizados.
