Google DeepMind pide estándares internacionales para el desarrollo y uso seguro de la IA

El cofundador y presidente de Google DeepMind, Demis Hassabis, abogó este miércoles por crear algún tipo de organismo internacional encargado de fijar estándares para el desarrollo y el uso seguro de la inteligencia artificial (IA), ante los riesgos que plantea esta tecnología.

El científico lanzó esa idea durante su intervención en la Cumbre Internacional sobre IA de Dublín (Irlanda), donde alertó de que los recientes ataques informáticos perpetrados por agentes de IA son las “primeras señales de alarma” sobre posibles incidentes más graves a corto plazo.

Hassabis se refería a una serie de sucesos protagonizados recientemente por estos sistemas, capaces de ejecutar tareas en internet con cierto grado de autonomía.

Entre otros casos, figuran intentos de acceso no autorizado a sistemas de organizaciones reales, la manipulación de páginas web para obtener información restringida o el envío de una falsa pista policial durante una prueba automatizada.

“Estos ataques son avisos tempranos de que los sistemas todavía no son tan potentes, por lo que los incidentes no son tan graves”, arguyó Hassabis, impulsor también de Alphabet.

“Pero podrían producirse incidentes (graves) el próximo año o en los próximos dos años si no hacemos más esfuerzos, como sector, como empresas individuales y como gobiernos, para reforzar la seguridad de estos sistemas”, dijo.

Insistió en la necesidad de establecer un organismo internacional encargado de fijar estándares para el desarrollo y el uso seguro de la inteligencia artificial, aunque advirtió de que este mecanismo deberá ser flexible para evitar que la regulación frene la innovación tecnológica.

“Lo que hay que hacer, básicamente, es desarrollar un proceso de certificación dinámico y proporcional a los riesgos que detectemos, que pueda adaptarse rápidamente en función de hacia dónde evolucione la tecnología”, agregó Hassabis.

La cumbre internacional sobre IA de Dublín reúne durante esta jornada a unas 1,500 personas, entre las que figuran la vicepresidenta ejecutiva de la Comisión Europea para la Soberanía Tecnológica, Seguridad y Democracia, Henna Virkkunen.

El encuentro cuenta asimismo con representantes de las principales compañías tecnológicas internacionales, entre ellos el presidente de Microsoft, Brad Smith; la directora financiera de OpenAI, Sarah Friar; y el directivo de Anthropic, Guillaume Princen.

La propia Anthropic informó este lunes de que pequeños modelos de IA pueden estar a pocos meses de ser capaces de multiplicarse y expandirse de forma totalmente autónoma a través de dispositivos domésticos conectados a internet, sin necesidad de acceder a grandes centros de datos.

También te puede interesar: <AFP, The New York Times y asociaciones latinoamericanas se unen a una coalición mundial frente a la IA

EFE