Local Multi Model AI Chat#

Local Multi Model AI Chat es un chatbot local que utiliza múltiples modelos de inteligencia artificial a elección del usuario. Se utilizó NextJS como framework de React, TailwindCSS como framework de diseño y WebGPU para acelerar los cálculos de los modelos de inteligencia artificial.

Es importante mencionar que este chatbot no utiliza una API para realizar las predicciones, sino que utiliza los modelos de inteligencia artificial de manera local, lo que permite al usuario seleccionar el modelo que desea utilizar pero también requiere de un mayor poder de procesamiento.

Este chatbot permite al usuario seleccionar el modelo de inteligencia artificial que desea utilizar, entre los modelos disponibles se encuentran:

• Llama
• Phi
• Qwen
• Gemma

Mejoras de la aplicación#

• Integrar historial de conversaciones
• Integrar reconocimiento de voz
• Integrar configuración de modelos con ajustes como: temperatura, top-k, top-p, etc.

Repositorio de GitHub#