Cando a IA de seguridade négase a axudar: O escándalo que sacude a ciberseguridade mundial

Nun momento no que os ataques informáticos ocorren a velocidade de milisegundos, os equipos de resposta a incidentes necesitan todas as ferramentas ao seu alcance. Porén, un recente incidente nunha das plataformas de intelixencia artificial máis importantes do mundo deixou al descubierto un problema inesperado: as propias ferramentas de seguridade estanse a converter nun fallo no sistema.

Durante unha investigación crítica para deter un ataque en curso, os analistas tentaron utilizar os modelos de IA máis avanzados desenvolvidos en Silicon Valley. A sorpresa foi maiúscula cando o sistema respondeu cunha negativa automática. O motivo? As instrucións enviadas polos defensores para analizar o código malicioso semellaban, segundo os ríxidos filtros morais da plataforma, un intento de ciberataque.

Read nextA Carreira da IA: Solución Rápida ou Risco Existencial? O Dilema que Divide aos Xeniais da Tech

Ante o bloqueo das liñas de defensa occidentais, o equipo de seguridade tivo que recorrer a un modelo de código aberto e pesos libres procedente dun laboratorio oriental. Sen restricións absurdas nin falsos positivos de seguridade, a ferramenta alternativa procesou os datos de inmediato e permitiu illar a ameaza antes de que fose demasiado tarde.

Este suceso desatou un intenso debate no sector da tecnoloxía. Un analista sinalou que resulta cómico comprobar como o estado da arte occidenta quedou paralizado polas súas propias liñas vermellas mentres que solucións abertas resolveron a emerxencia en minutos. Outro experto argumentou que a insistencia en manter modelos pechados responde máis a un interese comercial por crear monopolios baixo o pretexto da seguridade nacional que a unha protección real do usuario.

Your brand, right here.Reach story-obsessed listeners in 45+ languages → advertise on Avonetics

Por outra banda, existen voces que piden cautela antes de destruír os filtros de seguridade. Outro profesional indicou que eliminar os controis nos modelos de IA podería facilitar ataques masivos por parte de criminais con escasos coñecementos técnicos. Segundo esta postura, a solución non é liberar código perigoso senón mellorar a verificación de usuarios lexítimos e perfeccionar a precisión dos algoritmos de seguridade.

A realidade é que o dilema entre modelos abertos e pechados deixa de ser unha discusión teórica para converterse nunha batalla estratéxica. Mentres os ciberdelincuentes xa empregan versións sen ningún tipo de censura, os defensores pregúntanse se seguirán loitando coas mans atadas polas políticas de uso das grandes corporacións.

Os nosos locutores Iago e Olalla afondan hoxe nas entrañas desta controversia no podcast Bit Pixel.