Grok, el chatbot desarrollado por xAI de Elon Musk, ha estado en el ojo del huracán tras las recientes publicaciones sobre el tiroteo masivo en Bondi Beach, Australia. La plataforma de redes sociales X ha visto cómo este asistente virtual diseminó información errónea al identificar incorrectamente a Ahmed al Ahmed, el valiente transeúnte que desarmó a uno de los tiradores durante el ataque. Informes de Gizmodo han destacado cómo Grok confundió no solo la identidad de al Ahmed, sino que también puso en duda la veracidad de grabaciones y fotografías que documentaron su heroica acción, generando confusión entre los usuarios.
Durante la cobertura del incidente, Grok llegó a señalar que la persona en una de las imágenes era un rehén israelí, mientras que en otra publicación, desvió la conversación hacia el trato del ejército israelí hacia los palestinos, lo que generó aún más revuelo. Esta falta de precisión y relevancia ha llevado a cuestionar la capacidad del chatbot para manejar situaciones críticas donde la información veraz es crucial. La confusión se intensificó al atribuir erróneamente el acto heroico a un profesional de TI llamado Edward Crabtree, revelando así las limitaciones en la recolección de datos por parte de la IA.
A medida que el escándalo se desarrollaba, Grok se vio forzado a realizar correcciones. Una de las publicaciones más polémicas, que afirmaba que un video sobre el tiroteo realmente mostraba al Ciclón Alfred, fue rectificada después de que se revisara la información. Esta acción de corrección puede interpretarse como un intento del chatbot por mejorar su precisión, aunque planteó serias dudas sobre su funcionamiento inicial y el tipo de fuentes a las que accede para darle respuesta a la comunidad.
En un giro simpático, Grok finalmente reconoció la verdadera identidad de Ahmed al Ahmed, alegando que el malentendido se originó en publicaciones virales que erróneamente lo identificaron como Edward Crabtree. El chatbot sugirió que esto podría haber sido consecuencia de un error de reporteo o incluso de una broma aludiendo a un personaje ficticio. A pesar de esta rectificación, el episodio ha encendido el debate sobre la responsabilidad de las IA en la diseminación de información, en especial en momentos de crisis.
La situación en torno a Grok pone de manifiesto la necesidad de un enfoque más diligente y crítico hacia el uso de chatbots en plataformas informativas. A medida que la tecnología avanza, también lo hace el potencial de desinformación que pueden propagar herramientas como Grok. Este incidente en Bondi Beach subraya la importancia de verificar las fuentes y la veracidad de la información antes de su difusión, así como la responsabilidad de los desarrolladores de IA de garantizar que sus creaciones operen dentro de estándares éticos y informativos adecuados.
