BSI – Oficina Federal de Seguridad de la Información

Ubicación Bonn
Fecha 30 de abril de 2024

En un artículo de investigación actual, la Oficina Federal de Seguridad de la Información (BSI) examina cómo la inteligencia artificial (AI) impacta la situación actual de ciberamenazas. El estudio arroja luz sobre cómo los ciberataques están cambiando como resultado de la nueva tecnología disponible. El informe identifica esto AI-Aplicaciones basadas en que ya son susceptibles de uso ofensivo en la actualidad y evalúa cómo estas amenazas pueden evolucionar en el futuro cercano.

Los llamados generativos AI, especialmente los modelos de lenguaje grandes, reduce las barreras de entrada de los ciberataques y aumenta el alcance, la velocidad y el impacto de las acciones maliciosas en el espacio digital. Además de las ganancias generales de productividad para los actores maliciosos, esto representa BSI actualmente un uso maligno especialmente en el área de Ingeniería social y en la generación de código malicioso.

AI permite a atacantes con conocimientos mínimos de un idioma extranjero producir información de alta calidad phishing-Crear mensajes: los métodos tradicionales de detección de mensajes fraudulentos, como la comprobación de errores ortográficos y el uso de idiomas no convencionales, son suficientes para detectar phishing-Los ataques ya no son posibles.
Un paso más allá del apoyo a los ciberataques llevados a cabo por humanos es la creación de malware a través de AI: Los modelos de lenguajes grandes ya son capaces de escribir código malicioso simple. Además, existen pruebas de concepto iniciales, según las cuales AI para la generación y mutación automática de malware puede ser usado. Sin embargo, son maliciosos. AI-Agentes que son completamente independientes. ÉL-Las infraestructuras que pueden verse comprometidas, es decir, la inteligencia artificial que conduce a una automatización completa de los ataques, no están disponibles actualmente y lo más probable es que no lo estén en un futuro próximo. Sin embargo lo és AI ya son capaces de automatizar partes de un ciberataque.

BSI-Presidenta Claudia Plattner: “En nuestra evaluación actual del impacto de AI En términos del panorama de las ciberamenazas, no esperamos avances significativos en el desarrollo de la ciberseguridad en el futuro cercano. AI, especialmente de modelos de lenguaje grandes. Como autoridad federal de ciberseguridad, estamos y permaneceremos a la vanguardia de la investigación y asesoramos a empresas y organizaciones en particular para que den la máxima prioridad a la ciberseguridad. Será importante para todos nosotros mantenernos al día con los atacantes, es decir, aumentar la velocidad y el alcance de las medidas defensivas: al parchear más rápido, los nuestros ÉL-Reforzar los sistemas y detectar ataques que se aproximan incluso antes que antes. Eso ayuda AI nosotros hoy. Especialmente para proyectos de código abierto, será crucial AI-Utilice herramientas de forma proactiva antes de que lo hagan los actores maliciosos. Además, ante la escasez de trabajadores cualificados, es crucial que las empresas, la ciencia y la política pongan en común sus competencias, más allá de las fronteras estatales y nacionales”.

Los ciberdefensores también se benefician de aumentos generales de productividad mediante el uso de AI – por ejemplo, B. en la generación de código, para analizar el código fuente en busca de vulnerabilidades, para detectar malware o la creación de informes de situación. Se discutirá en detalle cómo la inteligencia artificial puede apoyar la ciberdefensa BSI-Abordar la investigación como parte de una actualización. Esto informa una mayor investigación. BSI arriba Oportunidades y riesgos más generativos AI-Modelos de lenguaje para la industria y autoridades..

Oficina Federal de Seguridad en Tecnologías de la Información
oficina de prensa
Tel.: 0228-999582-5777
Correo electrónico: prensa@bsi.bund.de
Internet: www.bsi.bund.de

BSI en las redes sociales