With open-weight AI, more of the security burden falls on enterprises
2026-10-19
Los modelos de IA de pesos abiertos (aquellos cuyos valores de aprendizaje son públicos para que cualquiera los descargue, inspeccione o modifique) presentan riesgos distintos a los modelos cerrados. Mientras que los modelos cerrados suelen incluir protecciones y monitoreo por parte del proveedor, los de pesos abiertos se distribuyen como archivos básicos, permitiendo que las organizaciones alteren o eliminen sus medidas de seguridad.
Microsoft y NVIDIA advierten sobre riesgos como la manipulación de modelos. Un atacante puede modificar o empaquetar un modelo antes de que la empresa lo reciba, eliminando sus protecciones originales. Investigaciones recientes han demostrado que es posible esconder 'puertas traseras' (backdoors) —accesos ocultos para atacantes— en modelos como Qwen2.5-7B-Instruct, logrando que el modelo entregue credenciales del proyecto al detectar un activador específico.
Otro riesgo crítico es el formato de los archivos. Muchos modelos se distribuyen en formato 'Pickle', el cual puede ejecutar código arbitrario (comandos no autorizados) al cargar un archivo no confiable. Además, estudios de Pillar Security y Fujitsu Research muestran que cambios mínimos en la memoria de modelos como DeepSeek-V4.1-Flash pueden plantar puertas traseras permanentes.
Para mitigar estos riesgos, las empresas deben establecer la procedencia de los archivos mediante firmas criptográficas (un método digital para asegurar que el archivo es el original y no ha sido alterado). También se recomienda implementar controles por capas, como el filtrado de entradas, la moderación de salidas, restricciones de acceso y la supervisión humana constante.
Qué significa para una pyme colombiana y cucuteña: Si usted está pensando en implementar inteligencia artificial propia para no pagar suscripciones mensuales (usando modelos como Llama de Meta o Mistral), tenga cuidado: la responsabilidad de que esa IA no sea hackeada o no robe información recae totalmente en usted. Antes de instalar cualquier modelo descargado de internet, asegúrese de que su técnico verifique la firma digital del archivo para confirmar que no ha sido manipulado por terceros.