Inteligencia artificial local y soberanía del dato: cómo Bullhost orquestó la infraestructura IA de un líder logístico

En el panorama tecnológico actual, la inteligencia artificial (IA) ha dejado de ser una promesa de futuro para convertirse en el motor de la competitividad empresarial. Sin embargo, cuando las organizaciones manejan información crítica, confidencial y un vasto capital intelectual, la soberanía de los datos se vuelve innegociable. 

En Bullhost, tras más de 20 años acompañando a las empresas en sus procesos de modernización técnica y securización, hemos comprendido que la verdadera revolución de la IA no reside únicamente en la nube pública, sino en la capacidad de construir infraestructuras de alto rendimiento dentro de los propios muros del cliente.

Recientemente, hemos completado con éxito un proyecto de esta magnitud para una destacada empresa del sector logístico, especializada en la gestión legal y documental para flotas de camiones y asociaciones de transporte de toda Europa. Este proyecto ilustra a la perfección cómo nuestra experiencia en sistemas avanzados e integración de hardware de vanguardia puede materializar las ambiciones de IA de cualquier organización, ofreciendo una solución «llave en mano» que combina potencia bruta, orquestación inteligente y un soporte excepcionalmente cercano.

El reto: convertir el conocimiento acumulado en un asistente inteligente

Nuestro cliente, que cuenta con una fuerte capacidad de desarrollo de software in-house, se enfrentaba a un desafío común pero ambicioso: poseían un histórico gigantesco de resoluciones, informes y documentos legales acumulados a lo largo de los años. Su visión era clara: querían extraer y estructurar toda esta información técnica, contenida en bases de datos y documentos PDF, para alimentar un entorno de inteligencia artificial que pudiera asistirles internamente.

El objetivo final de este despliegue es el desarrollo de un chatbot corporativo avanzado que automatice y simplifique la gestión de incidencias de soporte, permitiendo a sus equipos interactuar de forma natural con un modelo de IA entrenado específicamente con su propio «know-how». 

Para alcanzar esta meta, la hoja de ruta técnica pasaba inicialmente por técnicas de Generación Aumentada por Recuperación (RAG, por sus siglas en inglés) para ampliar el contexto de las respuestas, seguidas de inferencia mediante herramientas como Ollama y vLLM, culminando en el entrenamiento completo (fine-tuning) de un modelo propio.

Semejante nivel de desarrollo requiere una base computacional colosal, muy alejada de la infraestructura IT tradicional. Es aquí donde el conocimiento de Bullhost entró en juego.

El músculo técnico: GPUs de nivel data center en un entorno físico exigente

Para dotar al cliente de la capacidad de procesamiento necesaria, diseñamos y suministramos una infraestructura basada en servidores Dell de última generación. La joya de la corona de este equipamiento son cuatro tarjetas gráficas NVIDIA H200 de nivel data center. Gracias a la tecnología de bus NVLink, estas GPUs pueden operar en paralelo, comportándose como una única supercomputadora masiva; o bien dividirse virtualmente (slicing) para ejecutar múltiples cargas de trabajo de IA simultáneas con la máxima eficiencia.

Sin embargo, el despliegue de este tipo de hardware va mucho más allá de simplemente conectar un servidor. En el plano analógico, la puesta en marcha presenta desafíos formidables. Hablamos de equipos sumamente voluminosos y exigentes que elevan la temperatura de la sala entre 10 y 15 grados cuando operan a máximo rendimiento. Además, al arrancar, los ventiladores de estos sistemas generan un ruido comparable al zumbido del despegue de un avión.

Trabajamos mano a mano con el cliente para asegurar que el despliegue en su propio Centro de Procesamiento de Datos (CPD) cumpliera con los estrictos requisitos de suministro eléctrico y climatización. Al estar en unas instalaciones debidamente aisladas de las oficinas principales, logramos un entorno óptimo que no interfiere con el día a día de la empresa.

El cerebro: orquestación y software a medida

Un hardware potente sin el software adecuado es como un motor de Fórmula 1 sin volante. Por ello, en Bullhost nos encargamos no solo del montaje físico, sino de la optimización integral del entorno de software operativo. Desplegamos el sistema sobre Ubuntu, garantizando la perfecta compatibilidad con los controladores específicos para las tarjetas de NVIDIA.

Para que el equipo de desarrolladores del cliente pudiera explotar esta infraestructura de manera ágil, implementamos un clúster de Kubernetes, el estándar de la industria para la orquestación de contenedores en proyectos de inteligencia artificial. Sabiendo que la administración manual puede ser árida, nos apoyamos en Rancher, una plataforma de software de código abierto que simplifica enormemente el despliegue y la gestión de estos clústeres. 

De esta forma, proporcionamos un panel de control visual e intuitivo, permitiendo al cliente centrarse en lo que mejor sabe hacer: desarrollar sus soluciones de negocio, sin tener que pelear con la línea de comandos de la infraestructura subyacente.

A este ecosistema le sumamos servidores físicos complementarios para manejar las máquinas virtuales auxiliares y un robusto sistema de monitorización. En la IA, medir es vital; por ello, nuestro servicio incluye el control en tiempo real del uso de las GPUs, así como de la CPU, la memoria RAM y el almacenamiento, asegurando que las cargas de trabajo fluyan sin cuellos de botella.

El éxito de una infraestructura no se mide solo por su capacidad actual, sino por su escalabilidad. El diseño que implementamos ya está experimentando su primera fase de expansión: el cliente se encuentra integrando cuatro GPUs NVIDIA H200 adicionales en el mismo chasis para maximizar su densidad computacional. Además, anticipando el inevitable crecimiento de sus nodos de procesamiento, los servidores ya han sido dotados con conexiones de red de 100 Gbit, lo que permitirá a futuro una comunicación hiperrápida entre múltiples chasis trabajando en paralelo.

La diferencia Bullhost: cercanía y personalización en tiempos de automatización

En un mercado saturado de proveedores que prometen el oro y el moro en IA, la pregunta es natural: ¿Por qué elegir a un integrador especializado como Bullhost frente a los gigantes tecnológicos o las grandes consultoras multinacionales?.

La respuesta está en nuestro ADN: nos encantan las personas. Mientras que las grandes corporaciones suelen tratar a los clientes como un mero número de ticket cuando surgen complicaciones en la arquitectura, en Bullhost marcamos la diferencia ofreciendo un servicio de proximidad, ágil y personalizado. Nuestro margen diferencial no reside en la venta del «hierro», sino en la capa de servicios gestionados, la monitorización constante y el mantenimiento evolutivo del sistema.

Comprendemos el dolor de las empresas al enfrentarse a tecnologías complejas. Por eso les brindamos la seguridad de que, ante cualquier eventualidad, contarán con un equipo de expertos locales, altamente cualificados, respaldando el núcleo digital de su negocio.

Este proyecto de éxito reafirma que en Bullhost no solo somos líderes en estrategias de ciberseguridad 360, sino que somos el puente perfecto entre la compleja infraestructura de la inteligencia artificial generativa y agéntica y las empresas que desean aprovecharla desde la seguridad y el control total de sus propias instalaciones.

Si su organización dispone de un tesoro de información esperando ser capitalizado por la IA, pero no desea entregar sus datos a plataformas de terceros, en Bullhost tenemos el talento, la tecnología y el compromiso para diseñar la infraestructura perfecta para su negocio, ya sea en las instalaciones del cliente o bien en los CPDs de Bullhost.

¿Hablamos?

Compartir
Bullhost
Resumen de privacidad

Esta web utiliza cookies para que podamos ofrecerte la mejor experiencia de usuario posible. La información de las cookies se almacena en tu navegador y realiza funciones tales como reconocerte cuando vuelves a nuestra web o ayudar a nuestro equipo a comprender qué secciones de la web encuentras más interesantes y útiles.