La carrera por proteger la I.A. de los Hackers (Parte 1)

 

La IA se está convirtiendo en una parte clave de nuestras vidas. Hackearlo podría causar caos, por lo que la carrera ha comenzado para construir defensas.

Bruce Draper compró un auto nuevo recientemente. El automóvil tiene la última tecnología, pero esas campanas y silbatos traen beneficios y, lo que es más preocupante, algunos riesgos.

«Tiene todo tipo de IA funcionando allí: asistencia de carril, reconocimiento de señales y todo lo demás», dice Draper, antes de agregar: «Puedes imaginar todo ese tipo de cosas siendo pirateadas, la IA siendo atacada».

Es un temor creciente para muchos: ¿podrían romperse, engañarse o manipularse los algoritmos de IA, a menudo misteriosos, que se utilizan para administrar todo, desde automóviles sin conductor hasta infraestructura crítica, atención médica y más?

¿Qué pasaría si se pudiera engañar a un automóvil sin conductor para que condujera a través de las señales de alto, o si se engañara a un escáner médico alimentado por IA para que hiciera un diagnóstico incorrecto?, ¿Qué pasa si un sistema de seguridad automatizado fuera manipulado para dejar entrar a la persona equivocada, o tal vez ni siquiera reconocer que alguna vez hubo una persona allí?

Como todos confiamos en sistemas automatizados para tomar decisiones con enormes consecuencias potenciales, debemos asegurarnos de que los sistemas de IA no puedan ser engañados para tomar decisiones malas o incluso peligrosas. Los atascos en toda la ciudad o la interrupción de los servicios esenciales podrían ser solo algunos de los problemas más visibles que podrían resultar de la falla de los sistemas impulsados ​​por IA. Pero otras fallas del sistema de IA más difíciles de detectar podrían crear aún más problemas.

Durante los últimos años, hemos depositado cada vez más confianza en las decisiones que toma la IA, incluso si no podemos entender las decisiones que se toman. Y ahora la preocupación es que la tecnología de inteligencia artificial en la que confiamos cada vez más podría convertirse en el objetivo de ataques casi invisibles, con consecuencias muy visibles en el mundo real. Y aunque estos ataques son raros en este momento, los expertos esperan que ocurran muchos más a medida que la IA se vuelve más común.

“Estamos entrando en cosas como ciudades inteligentes y redes inteligentes, que se basarán en IA y tendrán una tonelada de datos aquí a los que la gente podría querer acceder, o intentar romper el sistema de IA”, dice Draper.

«Los beneficios son reales, pero tenemos que hacerlo con los ojos abiertos: existen riesgos y tenemos que defender nuestros sistemas de IA».

Draper, gerente de programa de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), el organismo de investigación y desarrollo del Departamento de Defensa de EE. UU., está en una mejor posición para reconocer el riesgo que la mayoría.

Está encabezando el proyecto Garantizar la robustez de la IA contra el engaño (GARD) de DARPA, que tiene como objetivo garantizar que la IA y los algoritmos se desarrollen de una manera que los proteja de los intentos de manipulación, alteración, engaño o cualquier otra forma de ataque.

“A medida que la IA se convierte en un lugar común, se usa en todo tipo de industrias y entornos; todos se convierten en partes potenciales de una superficie de ataque. Por lo tanto, queremos brindarles a todos la oportunidad de defenderse”, dice.

Autor de este artículo:

En el campo de la informatica, posee una experiencia de 15 años, desempeñandose en diferentes áreas desde ser analista de Help Desk ofreciendo soluciones a usuarios y sus diferentes problemas de informatica al rededor del mundo, en empresas de tecnología y de petroleo, trabajando con aplicaciones como Directorio Activo o Windows Active Directory, Lotus Note, Zimbra, Aplicaciones Web, SAP, Microsoft Office y otras aplicaciones de escritorio.

Posee experiencia en el campo de soporte tecnico integral a usuarios o lo llamado soporte de segundo Nivel, donde maneja más el campo del Hardware, mantenimiento de equipos CPU hasta Servidores de gamma baja.

En cuanto a Linux se a desempeñado como consultor de servidores Linux y Unix, desde hace más de 9 años, trabajando con mantenimiento e instalación,
seguridad, administración de servidores de código libre, respaldo para mantenimiento de Servidores Linux y Unix con soluciones como Data Protector y Bacúla,
configuración de aplicaciones bajo ambientes Linux, Servidores de Borde MTA y servidores de correo, Diseño e implantación de soluciones libres para virtualización
en plataformas como VMWARE, XEN, PROMOX y VirtualBox y recientemente con la administración de Docker automatizando el despliegue de aplicaciones dentro de contenedores de software libre. Así como la Administración de sistemas operativos como Debian, Ubuntu, Suse, Red Hat. También tiene experiencia en diversas plataformas de Unix como AIX para SAP, HP UX y Solaris.

Posee conocimientos en el campo de las bases de datos con MySQL o MariaDB y Postgres, así como de programación con Java y en el área de las redes Cisco.