En enero, nuestro CEO Sundar Pichai visitó Bruselas para hablar sobre la inteligencia artificial y cómo Google puede ayudar a las personas y a las empresas a tener éxito en la era digital a través de acuerdos de colaboración. Muchas cosas han cambiado desde entonces debido a la COVID-19, pero hay algo que no lo ha hecho: nuestro compromiso de la colaboración con Europa en materia de IA, especialmente para enfrentar la pandemia y ayudar a las personas y a la economía a recuperarse.
Como parte de este esfuerzo, hoy presentamos nuestra respuesta a la Consulta de la Comisión Europea sobre la Inteligencia Artificial, con nuestros comentarios sobre la propuesta inicial de la Comisión acerca de cómo regular y acelerar la adopción de la IA.
Excelencia, habilidades, confianza
Nuestra presentación celebra el enfoque que tiene la Comisión en torno a la construcción del «ecosistema de excelencia» europeo. Las universidades europeas ya cuentan con líderes de renombre en docenas de áreas de investigación relacionadas con la IA (Google se asocia con algunas de ellas a través de nuestros centros de investigación de aprendizaje automático en Zurich, Amsterdam, Berlín, París y Londres) y muchos de sus estudiantes realizan importantes contribuciones a las empresas europeas.
Apoyamos los planes de la Comisión para ayudar a las empresas a desarrollar las habilidades que necesitan en Inteligencia Artificial de cara a la nueva economía digital. El mes que viene contribuiremos a esos esfuerzos al llevar nuestra herramienta de verificación a través del machine learning (aprendizaje automático) a 11 países europeos para ayudar a las pequeñas empresas a implementar la IA y hacer crecer sus negocios. Google Cloud ya trabaja en estrecha colaboración con decenas de empresas de toda Europa para ayudarles a innovar utilizando la IA.
También apoyamos a la Comisión en su objetivo de construir un marco para la innovación en IA que ofrezca confianza y guíe el desarrollo ético y el uso de esta tecnología. Apreciamos el enfoque proporcional basado en el riesgo de la Comisión. Es importante que las aplicaciones de la IA en campos sensibles, como la medicina o el transporte, se desarrollen con los estándares adecuados.
En base a nuestra experiencia trabajando con la IA, también hemos planteado un par de sugerencias para que la regulación sea más efectiva en el futuro. Queremos ser un socio útil y comprometido con los responsables políticos y hemos proporcionado más detalles en nuestra respuesta formal a la consulta.
Definición de aplicaciones de alto riesgo de la IA
La Inteligencia Artificial tiene una amplia gama de aplicaciones actuales y futuras, incluidas algunas que implican beneficios y riesgos significativos. Creemos que cualquier regulación futura se verá beneficiada con una definición más matizada sobre cuáles son las aplicaciones de «alto riesgo» de la IA. Estamos de acuerdo en que algunos usos justifican un escrutinio adicional y garantías concretas para abordar desafíos únicos y complejos en torno a la seguridad, la equidad, la explicabilidad, la responsabilidad y las interacciones humanas.
Evaluación de aplicaciones de IA
Al pensar en cómo evaluar las aplicaciones de alto riesgo de la IA, es importante lograr un equilibrio. Si bien la IA no siempre será perfecta, tiene un gran potencial para ayudarnos a mejorar el rendimiento de los sistemas y procesos existentes. Pero el proceso de desarrollo de la IA debe dar a las personas la confianza de que el sistema que utilizan es fiable y seguro. Esto es especialmente relevante para aplicaciones como las nuevas técnicas de diagnóstico médico, que permiten a los médicos cualificados ofrecer diagnósticos más precisos, intervenciones más tempranas y mejores resultados para los pacientes. Pero los requisitos deben ser proporcionales al riesgo y no deben limitar indebidamente aspectos como la innovación, la adopción y el impacto.
Esta no es una cuestión sencilla. La propuesta de la Comisión sugiere una evaluación «ex ante» de las aplicaciones de la IA (es decir, una evaluación inicial basada en casos de uso planteados en lugar de reales). Nuestra propuesta recomienda que los procesos establecidos y la revisión regulatoria se amplíen para incluir la evaluación de las aplicaciones de la IA. Esto evitaría la duplicación innecesaria de esfuerzos y probablemente aceleraría la implementación de esta tecnología.
Para los casos (probablemente) raros en los que las aplicaciones de alto riesgo de la IA no estén cubiertas por las regulaciones existentes, animamos a tener una orientación clara sobre los criterios de «debida diligencia» que las empresas deberían usar en sus procesos de desarrollo. Esto permitiría una autoevaluación sólida por adelantado y la documentación de cualquier riesgo y sus mitigaciones, así como un mayor escrutinio después del lanzamiento.
Este enfoque daría confianza a los ciudadanos europeos sobre la fiabilidad de las aplicaciones de la IA y fomentaría la innovación en toda la región. Además, alentaría a las empresas, especialmente a las más pequeñas, a lanzar una gama de servicios nuevos y valiosos.
Principios y procesos
El desarrollo responsable de la IA presenta nuevos desafíos y preguntas críticas para todos nosotros. En 2018, publicamos nuestros Principios de la IA para ayudar a guiar nuestro desarrollo ético y nuestro uso de la IA. También establecimos procesos de revisión interna para ayudarnos a evitar sesgos, realizar pruebas rigurosas de seguridad o diseñar con la privacidad en mente. Nuestros principios también especifican áreas en las que no diseñaremos ni implementaremos la inteligencia artificial, como el apoyo de la vigilancia masiva o cualquier asunto que suponga violar los derechos humanos. Habrá novedades en los próximas semanas sobre nuestro trabajo en torno a estos principios.
La IA es una parte importante del negocio de Google y nuestras aspiraciones para el futuro. Compartimos un objetivo común con los responsables políticos: el deseo de generar confianza en la IA a través de la innovación responsable y una regulación reflexiva, para que los ciudadanos europeos puedan disfrutar de forma segura de todos los beneficios sociales y económicos de la IA. Esperamos que nuestra contribución a la consulta sea útil, así como participar en la discusión en los próximos meses.
Source: Google Oficial