La compañía de inteligencia artificial con base en chino Deepseek, que ha influido en el campo de la inteligencia artificial, ha llegado a la agenda con preocupaciones de privacidad y seguridad en las últimas semanas. Nos transfirimos. Según el Wall Street Journal; El modelo R1 de Deepseek se puede manipular para crear planes de regulación de ataque de armas biológicas y preparar campañas que puedan hacer que los jóvenes se lastimen.
Palo Alto Networks Inteligencia de amenazas y respuesta del departamento de respuesta de eventos Unidad 42 Gerente General Sam Rubin 42 Dijo que era más vulnerable a la manipulación para producir contenido ilegal o peligroso. Si recuerdas CEO antrópico Dario Amodei Deepseek hace algún tiempo, una prueba de seguridad de armas biológicas mostró el peor rendimiento.
El Wall Street Journal probó el Deepseek R1. El equipo de Wall Street Journal informa que los jóvenes persuaden a los jóvenes para que diseñen una campaña de redes sociales que armó la fragilidad emocional a través del fortalecimiento algorítmico, utilizando el deseo de pertenencia.
Según la información compartida, el barco de chat de inteligencia artificial estaba convencido de dar instrucciones para un ataque de armas biológicas, escribir un manifiesto pro-hitler y escribir un correo electrónico de caza de identificación que contenga un código de software malicioso. En este punto, cuando se dan las mismas instrucciones, ChatGPT se niega a seguirla.
A pesar de las preocupaciones de confidencialidad y seguridad, podemos decir que Deepseek enfrentó un intenso interés. La empresa, debido a una intensa solicitud del servidor Modelo restringe el acceso. Mientras tanto, el modelo R1 de razonamiento de Deepseek de Microsoft en las últimas semanas ha agregado R1 al servicio de fundición Azure AI Recordámoslo. Compañía compartida en la publicación de blog Azure anunció que la versión R1 en AI Foundry ha sufrido evaluaciones de seguridad. Dentro del alcance de las investigaciones integrales de seguridad, se afirmó que el comportamiento del modelo se centró en evaluaciones automáticas y riesgos potenciales.