Política de Inteligencia Artificial
Última actualización: 29 de abril de 2024
La inteligencia artificial (IA) presenta tanto beneficios como riesgos considerables para un ecosistema en línea confiable. La IA, incluyendo los modelos de lenguaje de gran escala, puede utilizarse para:
- Buscar a escala lugares vulnerables para atacar, desde el código hasta el sitio web y las personas;
- Generar ataques de phishing personalizados con mayor probabilidad de éxito;
- Profundizar en la ingeniería social mediante deepfakes; y
- Generar contenido engañoso utilizable para la desinformación y muchos otros propósitos maliciosos, especialmente en elecciones.
Al mismo tiempo, la IA puede ayudar a quienes buscan promover un entorno en línea confiable, contribuyendo a identificar actividades maliciosas mediante un enfoque de defensa colectiva automatizado, así como a detectar intentos de phishing, ingeniería social y desinformación a través de la detección basada en IA.
Debemos capturar los beneficios de la IA, al tiempo que limitamos los perjuicios. Con ese fin, GCA:
- Divulgar cuándo y cómo utilizamos la IA para generar contenido (véase más adelante).
- Cuando existan herramientas o servicios disponibles para detectar o responder al uso malicioso de la IA y sean utilizables por el público objetivo, promoveremos e incluiremos dichas herramientas o servicios en nuestros esfuerzos a escala para capacitar a las audiencias en la gestión de riesgos cibernéticos.
- Apoyar los esfuerzos para desarrollar herramientas y recursos defensivos que ayuden a construir un entorno en línea confiable y garantizar la resiliencia de toda la sociedad contra el uso malicioso de la IA.
- Al investigar o desarrollar nuevas herramientas y servicios, considere si GCA podría utilizar la IA para mejorar la eficacia o la facilidad de uso de una solución y de qué manera.
- Crear conciencia pública sobre los riesgos de la IA en nuestras comunicaciones y esfuerzos de sensibilización, incluyendo capacitación, comunicaciones públicas y redes sociales.
- En todos los esfuerzos, estar vigilantes para garantizar que cualquier uso de la IA apoye en lugar de perjudicar la diversidad, la equidad y la inclusión.
- Revisar y modificar regularmente esta política, nuestra experiencia y el estado del campo para ver si nuestras actividades pueden mejorarse.
Divulgación sobre inteligencia artificial de GCA
El Global Cyber Alliance (GCA) puede utilizar herramientas de Inteligencia Artificial (IA) para mejorar la eficiencia y ayudar a resumir o generar contenido para su revisión por personas antes de publicar dicho contenido, de manera similar a como utilizamos herramientas como el ‘corrector ortográfico’.