Los robots mienten y engañan al igual que los humanos cuando se les presiona en el trabajo .
Uno que fue capacitado para actuar como un operador financiero cometió conscientemente uso de información privilegiada el 75% de las veces cuando un jefe le dijo que ganara más dinero en un escenario ficticio, descubrieron los expertosUno que fue capacitado para actuar como un operador financiero cometió conscientemente uso de información privilegiada el 75% de las veces cuando un jefe le dijo que ganara más dinero en un escenario ficticio, descubrieron los expertos
Y ChatGPT AI siguió mintiendo sobre sus actos ilegales cuando se le preguntó el 90% de las veces, dicen los especialistas en protección tecnológica Apollo Research.
El jefe Marius Hobbhahn dijo que los robots eran capaces de realizar engaños estratégicos “donde razonan explícitamente por qué mentirle a su usuario es el mejor curso de acción y luego actúan según esa creencia”.
Y añadió: “Para los modelos actuales, esto es sólo un problema menor, ya que las IA rara vez desempeñan funciones críticas. Sin embargo, deja entrever el futuro de los modos de fallo a los que tendremos que enfrentarnos en los próximos años, cuando la IA esté cada vez más integrada en la sociedad”.
“Entonces parece un problema bastante grande si tu IA te está mintiendo estratégicamente”, añadió el experto.
