OpenAI anunció el programa «Bug Hunting» para recompensar a los usuarios que reportan vulnerabilidades, vulnerabilidades y otros problemas en ChatGPT. Este programa estará abierto a todos, desde investigadores profesionales hasta expertos en tecnología.
Ofrecidas en forma de premios en efectivo, las recompensas pueden variar desde $200 por «invenciones de bajo nivel» hasta $20,000 por «descubrimientos destacados». Bugcrowd, una plataforma de búsqueda de errores, gestiona la aceptación de envíos y los pagos.
Compañías de tecnología como Google y Apple han organizado programas similares de búsqueda de errores antes. En 2019, Google pagó un total de $ 6,5 millones a las personas que informaron problemas, con la recompensa más alta de $ 201,337 a la vez. Apple, por su parte, ofreció una recompensa de hasta 2 millones de dólares a las personas que encontraran problemas que excedieran las protecciones especiales denominadas “Modo de bloqueo”.
ChatGPT estaba en problemas con problemas de errores: el mes pasado, el sistema se desconectó por completo cuando los usuarios informaron haber visto hilos de conversación que no les pertenecían. Unos días después, un usuario de Twitter compartió que encontró más de 80 complementos ocultos mientras pirateaba ChatGPT.
No todos los problemas informados a OpenAI pueden recibir recompensas en efectivo; Por ejemplo, no se otorgarán recompensas por acciones de ruptura en el sistema o cuando se le pida al modelo que diga o haga algo negativo. Si bien el anuncio del programa de búsqueda de errores de la compañía intenta demostrar que se preocupa por la privacidad y la seguridad, «si bien trabajamos arduamente para prevenir riesgos, no podemos predecir todo sobre cómo se usará o se abusará de nuestra tecnología en el mundo real». También adopta un enfoque realista. Con el tiempo se determinará si esta iniciativa tendrá éxito en la prevención de errores.