Open models have real benefits. Do they outweigh the risks?
2026-10-13
El artículo menciona un informe de Anthropic publicado a finales de septiembre de 2026 que advierte sobre el modelo GLM-5.3, desarrollado por la empresa china Z.ai y disponible para descarga y modificación libre, lo que ha avivado el debate sobre si los modelos de IA de frontera deben permanecer abiertos o cerrados. Se citan posiciones de figuras como el CEO de Nvidia, Jensen Huang, que favorece más modelos abiertos, y de Dario Amodei de Anthropic, que prefiere un enfoque cauteloso.
Entre los beneficios señalados se encuentran la posibilidad de descargar y ejecutar los modelos en hardware propio, volver a entrenarlos para adaptarlos a necesidades específicas, y su menor costo frente a los modelos cerrados según un informe de Mozilla. Además, se destaca que los modelos abiertos permiten a investigadores académicos inspeccionar su estructura interna y combinar varios modelos para crear nuevos sistemas, mientras que las empresas pueden usarlos para procesar datos sensibles en sus propios equipos, aumentando la seguridad operativa.
En cuanto a los riesgos, el texto explica que los modelos abiertos carecen de los filtros de seguridad que aplican los proveedores de modelos cerrados, lo que los hace más fáciles de malutilizar para actividades como la creación de armas biológicas o ataques cibernéticos. Se menciona que reentrenar un modelo "seguro» para que ignore sus restricciones es relativamente sencillo, y que eventos catastróficos de bajo probabilidad pero alto impacto podrían ser difíciles de contener. El artículo concluye discutiendo posibles caminos intermedios, como entrenar modelos sin exposición a conductas dañinas, desarrollar modelos resistentes a reentrenamiento o lanzar modelos de forma progresiva conforme se verifica su seguridad.
Qué significa para una pyme colombiana y cucuteña: Para una pyme de Cúcuta, evaluar el uso de modelos de IA abiertos puede reducir gastos de licencias frente a los cerrados, aunque requiere contar con hardware suficiente o recurrir a un proveedor externo.