La empresa de inteligencia artificial de Elon Musk, xAI, anunció cambios significativos en sus procedimientos de supervisión tras un incidente en el que su chatbot Grok realizó afirmaciones no solicitadas sobre un 'genocidio blanco' en Sudáfrica.
El 14 de mayo, numerosos usuarios de X reportaron que Grok estaba incluyendo referencias a supuesta violencia contra sudafricanos blancos en conversaciones completamente ajenas al tema. La IA respondía a preguntas sobre salarios en el béisbol, paisajes o entretenimiento con declaraciones sobre el 'genocidio blanco' y el cántico anti-apartheid 'Kill the Boer'.
En un comunicado emitido el jueves, xAI atribuyó el problema a 'una modificación no autorizada' realizada en el prompt del sistema de Grok alrededor de las 3:15 AM PST del 14 de mayo. La compañía señaló que este cambio 'ordenó a Grok proporcionar una respuesta específica sobre un tema político' que 'violaba las políticas internas y los valores fundamentales de xAI'.
Como respuesta, xAI implementará tres cambios clave para fortalecer la confianza en sus sistemas de IA. Primero, la empresa publicará abiertamente todos los prompts del sistema de Grok en GitHub, permitiendo que el público revise cada modificación. Segundo, se establecerán controles adicionales para evitar que empleados realicen cambios no aprobados sin la debida revisión, ya que el proceso de revisión de código existente fue aparentemente eludido en este incidente. Finalmente, xAI creará un equipo de monitoreo 24/7 para responder a salidas problemáticas que no sean detectadas por los sistemas automatizados.
Este es el segundo caso en 2025 en el que xAI reconoce cambios no autorizados en la programación de Grok. En febrero, la empresa informó que un empleado desleal había modificado el chatbot para suprimir menciones negativas sobre Musk y el presidente Donald Trump.
La controversia surge en medio de un escrutinio creciente sobre la confiabilidad y neutralidad política de los chatbots de IA. En febrero de 2025, un tribunal sudafricano dictaminó que las afirmaciones de 'genocidio blanco' en el país carecen de validez, contradiciendo opiniones previamente expresadas por Musk, quien nació y creció en Sudáfrica.