Google busca seguridad en inteligencia artificial

Google liberó un artículo técnico acerca de la seguridad en inteligencia artificial, creada en colaboración con investigadores de la Universidad de Stanford, de California, Berkeley y OpenAI.

Preocupa seguridad en inteligencia artificial

Esta información llega tras algunas preocupaciones de posibles errores en sistemas de inteligencia artificial (IA o AI por sus siglas en inglés) que lograron llamar la atención de los investigadores de Google.

[Tweet “#Google planteó los retos en #seguridad de la #InteligenciaArtificial en un artículo”]

Tras apenas dos semanas de que la empresa DeepMind anunciara una asociación con investigadores de la Universidad de Oxford para desarrollar un switch que ‘mate’ a sistemas de IA ‘rebeldes’, Google liberó esta información dedicada a los riesgos de seguridad de la IA.

Problemas futuros en IA si no se atienden

La investigación, titulada “Problemas Concretos en Seguridad de la Inteligencia Artificial”, fue escrita, como ya se dijo, en colaboración con investigadores de varias universidades, así como de OpenAI, una empresa sin fines de lujo enfocada en investigación de IA.

Define 5 problemas básicos que los investigadores afirman son relativamente menores hoy en día, pero predice que tendrán mayor importancia conforme las máquinas sean más importantes en el futuro.

El objetivo al escribir este artículo fue explorar las aproximaciones prácticas para resolver estos problemas y asegurarse que los sistemas de AI sean creados para operar de forma segura y confiable, según se dijo el blog dedicado a la investigación de Google.

El investigador Chris Olah afirmó que aunque los riesgos de la IA han recibido mucha atención, las discusiones previas han sido especulativas e hipotéticas. Por lo cual, en Google creen que es esencial aterrizar las preocupaciones en la investigación del aprendizaje de máquinas y comenzar a desarrollar aproximaciones prácticas para que los sistemas de ingeniería en IA operen de forma segura.

El aprendizaje de máquinas y la inteligencia artificial son áreas importantes para Google. La empresa expresó que quiere aprovechar los avances en estas áreas para hacer sus tecnologías esenciales mejores. La empresa ya aplica técnicas de IA e inteligencia de máquinas en aplicaciones como Google Translate, Google Photos y búsqueda de voz.

El CEO de la empresa, Sundar Pichai, afirmó que Google espera que la IA transformará radicalmente la forma en que la gente viaja, realiza tareas diarias y resuelve pro lemas en áreas como cuidado de la salud y cambio climático

Pero avanzar en AI significa hacer a los sistemas mejores, más seguros y más inteligentes, según expresaron Paul Christin y Greg Brockman, investigadores de OpenAI, en un post anunciando el rol de la empresa en el artículo.

Retos concretos del IA

Uno de los 5 problemas que el artículo analiza tiene que ver con asegurar que un sistema de IA no sea impactado por el ambiente de forma negativa para realizar sus funciones. Por ejemplo, un robot programado para limpiar que no tire objetos a pesar de que ésta pudiera ser la forma más rápida de realizar la tarea.