Servicios web de Amazon (AWS), para detectar alucinaciones de modelos de inteligencia artificial Comprobaciones de razonamiento automatizadas anunció su nuevo vehículo llamado. Anunciado en la conferencia re:Invent de AWS, el razonamiento automatizado verifica la precisión de la información proporcionada por el cliente con referencias cruzadas. Así, la herramienta verifica las respuestas del modelo.
¿Cómo funcionan las comprobaciones de razonamiento automatizado?
Comprobaciones de razonamiento automatizadas por parte de AWS Herramienta Guardrails del servicio de alojamiento de modelos Bedrock Se puede utilizar a través de . La herramienta intenta comprender cómo llegó un modelo a una respuesta y si la respuesta es correcta. Las comprobaciones de razonamiento automatizado crean reglas después de que los clientes cargan información para establecer algún tipo de verdad fundamental. Cabe señalar que estas reglas pueden ser refinadas por el vehículo y aplicadas a un modelo.
A medida que un modelo genera respuestas, las comprobaciones de razonamiento automatizado las verifican. En caso de una posible alucinación, la herramienta consulta la verdad fundamental para encontrar la respuesta correcta. Al presentar esta respuesta junto con la posible respuesta incorrecta, los clientes pueden ver cuán equivocado puede estar el modelo. Entre las instituciones que utilizan controles de razonamiento automatizado PwC también está incluido. Según AWS; PwC ya está utilizando comprobaciones de razonamiento automatizado para diseñar asistentes de inteligencia artificial para sus clientes.
Comprobaciones de razonamiento automatizadas, que Microsoft presentó este verano Corrección Llama la atención por su similitud. La función Corrección de Microsoft señala el texto generado por inteligencia artificial que en realidad puede ser incorrecto. También cabe señalar que Google también ofrece una herramienta en su plataforma de desarrollo de inteligencia artificial, Vertex AI, que permite a los clientes «conectar» modelos utilizando datos de proveedores externos, sus propios conjuntos de datos o la Búsqueda de Google.
Modelo de destilación
AWS también se lanzó bajo Bedrock Modelo de destilación anunció su vehículo. modelo de destilación, Como Llama 405B las habilidades de un gran modelo, Correr más barato y más rápido como Llama 8B Se transfiere a un modelo más pequeño.. Esta característica estaba disponible anteriormente en Microsoft. ‘Fundición de IA de Azure’Lo vimos en la herramienta Destilación en .
Actualmente, la destilación modelo es solo Amazonia, Antrópica Y Con los modelos de Meta alojados en Bedrock funciona. Los usuarios solo pueden elegir un modelo grande o pequeño de la misma familia de modelos dentro del alcance del vehículo. Según AWS; modelos destilados pérdida de precisión de menos del 2 por ciento vivirá.
Función de colaboración multiagente
También en el evento hubo una nueva característica de Bedrock, colaboración multiagente también surgió. La colaboración entre múltiples agentes permite a los usuarios asignar IA a subtareas dentro de un proyecto más grande. Agentes de base Colaboración entre múltiples agentes, parte de la cual proporciona herramientas para crear y ajustar inteligencia artificial para cosas como revisar registros financieros y evaluar tendencias globales.
Los usuarios pueden dividir las tareas y dirigirlas automáticamente a la inteligencia artificial. un “agente supervisor” También es posible determinarlo.
Según AWS; El agente que actúe como supervisor podrá otorgar acceso a la información a determinados agentes. Asimismo, el agente supervisor podrá determinar qué acciones se pueden procesar en paralelo y cuáles necesitarán detalles de otras tareas para que un agente pueda avanzar. Una vez que todos los agentes expertos en IA hayan completado sus aportes, el agente supervisor podrá reunir la información y sintetizar los resultados.
Los usuarios pueden acceder a la destilación de modelos, las comprobaciones de razonamiento automatizadas y la colaboración entre múltiples agentes en vista previa. Swami Sivasubramanian, vicepresidente de IA y datos de AWSSegún lo manifestado; Base de clientes de Bedrock el año pasado Creciendo 4,7 veces hasta alcanzar decenas de miles de clientes alcanzó. Sivasubramanian afirma que este crecimiento está relacionado con las nuevas herramientas que desarrollaron.