ChatRTX: la inteligencia artificial de NVIDIA que funciona sin conexión

NVIDIA ha lanzado ChatRTX, una herramienta de inteligencia artificial diseñada para ejecutarse de manera local en computadoras con tarjetas gráficas RTX. Este asistente, presentado en 2024, permite a los s interactuar con modelos de lenguaje avanzados sin depender de servicios en la nube. La solución aprovecha la aceleración por hardware de las GPU de la serie RTX 30 y 40, ofreciendo soporte para modelos de lenguaje como Mistral 7B INT4 y herramientas de transcripción como Whisper, de OpenAI.

El software ha sido desarrollado para optimizar la ejecución de modelos de IA en dispositivos con capacidades gráficas avanzadas. Entre sus funciones principales, ChatRTX permite procesar y analizar documentos en distintos formatos, como PDF y DOCX, interpretar imágenes a través del modelo CLIP de OpenAI y recibir comandos de voz mediante Whisper. Esto amplía su aplicabilidad en entornos de trabajo que requieren procesamiento de información textual o reconocimiento de imágenes sin necesidad de conexión a internet.

Una de las características que destacan en ChatRTX es su facilidad de uso. La herramienta no requiere conocimientos de programación, lo que la hace accesible para una amplia variedad de s. Su funcionamiento es rápido y eficiente, permitiendo consultar información de forma casi instantánea. Además, entiende el español, aunque en muchas ocasiones responde en inglés, lo que puede resultar poco conveniente para algunos s.

Su capacidad para procesar grandes volúmenes de información la hace útil para estudiantes e investigadores. Por ejemplo, un estudiante universitario que esté trabajando en su proyecto de grado puede emplearla para buscar citas o temas específicos dentro de una carpeta con numerosos archivos, facilitando la organización de la información y agilizando la redacción.

Para utilizar la herramienta, los s deben contar con un sistema que cumpla con ciertos requisitos técnicos. ChatRTX requiere una PC con Windows 11, al menos 16 GB de RAM y una tarjeta gráfica NVIDIA RTX con un mínimo de 8 GB de VRAM. Además, es necesario instalar controladores de la versión 535.11 o superior. La descarga del software ocupa aproximadamente 35 GB de almacenamiento, y su instalación implica la configuración de modelos de IA optimizados para su ejecución en hardware RTX.

Uno de los aspectos clave de ChatRTX es su capacidad para operar sin conexión, garantizando mayor privacidad al procesar información localmente. Esta característica lo diferencia de asistentes basados en la nube, permitiendo que los s utilicen modelos de lenguaje y reconocimiento de voz sin exponer sus datos a servidores externos.

El lanzamiento de ChatRTX refuerza la apuesta de NVIDIA por el desarrollo de soluciones de inteligencia artificial optimizadas para hardware especializado. La integración de modelos compactos como Mistral 7B INT4 permite reducir el consumo de recursos sin comprometer la funcionalidad del sistema, facilitando el a herramientas de IA en entornos locales.