Utilizo LLM locales para múltiples propósitos, incluido eliminar información personal de los documentos antes de subirlos a Claude o ChatGPT y generar un resumen RSS diario para mi Kindle. A pesar del lento rendimiento incluso de los LLM más pequeños de mi hardware, los uso para varias cosas en mi hogar inteligente.
Generando un briefing matutino
Combinando información de múltiples fuentes
Esta es una de mis automatizaciones favoritas y un LLM local es la piedra angular de su funcionamiento. Siempre me ha gustado la idea de Alexa Flash Briefings que te brindan noticias, clima, actualizaciones deportivas y más. Sin embargo, nunca se sintieron muy personales.
Decidí construir el mío propio. Extrae datos de Home Assistant, incluidos eventos del calendario, información sobre almuerzos escolares, fechas de recolección de basura, datos meteorológicos y más. Todos estos datos se combinan en un informe matutino que un altavoz inteligente lee en voz alta cuando entramos a la cocina.
El LLM escribe el informe, combinando toda la información en lenguaje natural con algo de personalidad. Es preferible usar un LLM local ya que no quiero compartir un montón de información personal con una plataforma de inteligencia artificial basada en la nube. Si bien el procesamiento es lento, el resumen se genera antes de que nos levantemos, por lo que siempre está listo para reproducirse cuando entramos a la cocina.
- UPC
-
Celeron FCBGA1264 3.6GHz
- Gráficos
-
Gráficos Intel integrados 24EU 1000MHz
La PC de escritorio Beelink Mini S13 Pro es una computadora ultracompacta impulsada por el procesador Intel N150. Con 16 GB de RAM DDR4 y un SSD de 500 GB, esta microcomputadora es perfecta para una variedad de cargas de trabajo. Desde ejecutar programas de servidor simples hasta reemplazar su vieja PC, el Beelink S13 Pro está a la altura de la tarea.
Crear anuncios hablados naturales
Nuevos recordatorios todos los días
Los LLM están capacitados para procesar y generar lenguaje, por lo que no sorprende que sean buenos produciendo texto con sonido natural. Hay muchas maneras en que esto puede resultar útil en su hogar inteligente.
Después de observar las estadísticas de un sensor de movimiento y descubrir que mi esposa y yo entramos a la cocina unas 50 veces al día cuando los niños están en la escuela, configuré una automatización que reproducía un anuncio hablado cada vez que entramos a la cocina, sugiriendo que ordenáramos algo. Al principio funcionó bien, pero los anuncios repetitivos se volvieron fáciles de ignorar.
Gracias a un LLM local, ahora tengo anuncios completamente nuevos cada día, por lo que nunca sé qué van a decir. Se generan con un toque ligeramente atrevido, por lo que a menudo son bastante divertidos, lo que hace que realmente los escuchemos.
Como los escuchamos activamente, son mucho más difíciles de ignorar. Realmente ayuda estar al tanto del trabajo de cocina.
Que JARVIS me recuerde lo que debo hacer
Un resumen hablado de los elementos pendientes de la lista de tareas pendientes
Una de las primeras cosas que hice con la tecnología para el hogar inteligente fue configurar el control por voz usando un sensor Xbox Kinect y un software llamado JARVIS que traducía los comandos de voz en instrucciones para el hogar inteligente.
Una vez que construí mi propio altavoz inteligente, no tuve que pensar en convertirlo en mi propia versión del mayordomo de IA de Iron Man. Utilizando una voz masculina británica, mi altavoz inteligente sonará de vez en cuando con información importante.
Una de las cosas más útiles que hace es decirme qué tareas tengo pendientes en mi lista de tareas pendientes en Home Assistant. Un LLM local convierte esta lista en un anuncio escrito al estilo de un mayordomo de IA británico, y luego un modelo TTS local convierte el texto en audio con un acento británico adecuado. Luego, el audio se reproduce a través de mi altavoz inteligente. Es lo más cerca que estoy de ser Iron Man.
Un boletín de calificaciones diario que me avergüenza de moverme más
Usar datos de salud para asustarme y ponerme en acción
Escribir para ganarse la vida no es un estilo de vida saludable. Paso horas sentado en mi escritorio, encorvado sobre el teclado, y esto no es bueno para mi salud. He probado varias formas de obligarme a levantarme y moverme más.
Una de las cosas que he hecho es conseguir que un LLM local me escriba una boleta de calificaciones sarcástica. Utiliza datos de salud extraídos de mi Apple Watch, como el recuento de pasos y las horas de reposo. También analiza cuánto tiempo he estado sentado en mi escritorio, medido por un sensor de presencia.
Cada mañana, el LLM local recopila toda la información en un informe que se lee en voz alta y se muestra en un panel de Home Assistant. A menudo me ayuda avergonzarme para que me mueva más.
Cotejando las noticias de la mañana
Mi altavoz inteligente me dice qué pasa
Nuestra sesión informativa matutina suena cuando entramos por primera vez a la cocina, pero no es el primer anuncio del día. Incluso antes de levantarnos de la cama, un altavoz inteligente me ofrece un resumen de los titulares de las noticias según los temas que más me interesan.
La información se obtiene mediante canales RSS de fuentes de noticias específicas o sitios web centrados en temas. Luego, las historias principales se transmiten al LLM local, que las combina en una breve sesión informativa personalizada. Se activa cuando quito mi teléfono del cargador cada mañana y lo reproduzco a través de un altavoz inteligente. Es una excelente manera de comenzar el día.
Un LLM local no tiene por qué ser rápido
En todos los usos de esta lista, el LLM local tarda algún tiempo en producir resultados. Al hacer que el LLM se ponga a trabajar cuando estoy dormido, no importa cuánto tiempo demore. Los resultados siempre están listos y esperando justo cuando los necesito.