El chatbot de IA para las escuelas de Los Ángeles fracasa

El chatbot de IA para las escuelas de Los Ángeles fracasa
El chatbot de IA para las escuelas de Los Ángeles fracasa

Se suponía que una plataforma de inteligencia artificial llamada Ed sería un «amigo educativo» para medio millón de estudiantes en las escuelas públicas de Los Ángeles. En conversaciones escritas, Ed indicó a los estudiantes que accedieran a recursos académicos y de salud mental, o les dijo a los padres si sus hijos habían asistido a clases ese día y les proporcionó los resultados de las pruebas más recientes. Ed incluso sería capaz de detectar y reaccionar ante emociones como la hostilidad, la felicidad y la tristeza.

El superintendente distrital Alberto Carvalho elogió a Ed. En un discurso para promocionar el software en abril, prometió que «democratizaría» y «transformaría la educación». En respuesta a los escépticos de la IA, preguntó: «¿Por qué no dejar que este enfoque de entretenimiento educativo capte y capte su atención, sea un motivador?»

Una niña de séptimo grado que probó el chatbot, personificado por un sol animado y sonriente, informó: «Creo que le gusto a Ed», dijo Carvalho.

Los Ángeles acordó pagar a una empresa nueva, AllHere, hasta 6 millones de dólares para desarrollar Ed, una pequeña porción del presupuesto anual de 18 mil millones de dólares del distrito. Pero apenas dos meses después de la presentación de Carvalho en abril en una ostentosa conferencia tecnológica, el fundador y director ejecutivo de AllHere renunció y la compañía despidió a la mayor parte de su personal. AllHere publicó en su sitio web que los despidos se debían a «nuestra situación financiera actual».

Las empresas de IA se promocionan fuertemente entre las escuelas, que gastan decenas de miles de millones de dólares anualmente en la tecnología. Pero la repentina desaparición de AllHere ilustra algunos de los riesgos que implica invertir el dinero de los contribuyentes en inteligencia artificial, una tecnología con un enorme potencial pero poco historial, especialmente cuando se trata de niños. Hay muchas cuestiones complejas en juego, incluida la privacidad de los datos de los estudiantes y la precisión de la información proporcionada a través de los chatbots. La IA también puede ir en contra del creciente interés de los líderes educativos y de los padres: reducir el tiempo que los niños pasan frente a la pantalla.

Natalie Milman, profesora de tecnología educativa en la Universidad George Washington, dijo que a menudo aconseja a las escuelas que adopten un enfoque de «esperar y ver» a la hora de adquirir nueva tecnología. Si bien vale la pena usar y probar la IA, dijo, advirtió contra las escuelas que «hablan vagamente sobre esta herramienta tan cacareada. Tiene limitaciones y debemos asegurarnos de que somos críticos con lo que puede hacer y sus posibles daños y desinformación».

AllHere no respondió a solicitudes de entrevistas ni preguntas escritas.

En una declaración, la portavoz del distrito escolar de Los Ángeles, Britt Vaughan, hizo una distinción entre los estudiantes distraídos que son «devorados por los teléfonos durante el día escolar» y los estudiantes que usan computadoras portátiles o tabletas para interactuar con la plataforma Ed, que según ella «está destinada a proporcionar Rutas educativas individualizadas para el aprendizaje de los estudiantes.» «

Anthony Aguilar, superintendente de educación especial del distrito, dijo que a pesar del colapso de AllHere, una versión truncada de Ed seguía disponible para las familias de las 100 escuelas «prioritarias» del distrito cuyos estudiantes tienen dificultades académicas y de participación.

Pero este software no es un chatbot interactivo y sofisticado. Es un sitio web que recopila información de muchas otras aplicaciones que utiliza el distrito para realizar un seguimiento de las tareas, calificaciones y servicios de apoyo. Los estudiantes que utilizan el sitio también pueden completar algunas tareas de aprendizaje en la plataforma, como problemas de matemáticas.

El chatbot Ed promovido por Carvalho se probó con estudiantes de 14 años o más, pero se desconectó para refinar la forma en que respondía las preguntas de los usuarios, dijo Aguilar. El objetivo es tener el chatbot disponible en septiembre, lo cual es un desafío porque AllHere debía brindar soporte técnico y capacitación continuos al personal de la escuela según el contrato con el distrito. El distrito dijo que espera que la adquisición de AllHere y el nuevo propietario continúen con los servicios.

Aguilar dijo que la idea del software surgió del distrito como parte del plan del Sr. Carvalho para ayudar a los estudiantes a recuperarse del impacto académico y emocional de la pandemia.

AllHere había ganado la licitación para construirlo, dijo Aguilar.

Pero el proyecto fue un desafío enorme y difícil para la nueva empresa, mejor conocida como proveedora de mensajes de texto automatizados de escuelas a familias.

Según Crunchbase, AllHere había atraído 12 millones de dólares en financiación de capital de riesgo. Su fundadora y directora ejecutiva, Joanna Smith-Griffin, ahora de 33 años, apareció Forbes, CBS y otros medios de comunicación cuentan una historia convincente. Como ex maestra cuyos propios alumnos a menudo estaban ausentes, dijo que fundó AllHere en 2016 para ayudar a resolver el problema.

Los mensajes de texto automatizados parecieron coincidir con el momento en que comenzó la pandemia de Covid-19 y el ausentismo crónico se convirtió en una crisis nacional. En la primavera de 2020, AllHere tecnología adquirida desarrollado por Peter Bergman, economista y experto en tecnología educativa. Permitió a las escuelas enviar «nulos» a los padres con mensajes de texto sobre asistencia, tareas faltantes, calificaciones y otros temas.

La Sra. Smith-Griffin hablaba a menudo de la fundación de AllHere en Harvard Innovation Labs, un programa universitario que apoya a estudiantes emprendedores. La Sra. Smith-Griffin se unió al programa cuando era estudiante de pregrado y posgrado en la Escuela de Extensión de Harvard, según Matt Segner, director ejecutivo de los laboratorios.

Como muchas pequeñas empresas emergentes, la empresa cambió su misión con el tiempo. El año pasado, AllHere empezó a hablar más sobre el «chatbot intuitivo impulsado por IA». AllHere proporcionaría IA a las escuelas mientras mantendría a un «humano informado», dijo la compañía, lo que significa que moderadores humanos monitorearían la IA por seguridad, una propuesta potencialmente costosa y que requiere mucha mano de obra.

Stephen Aguilar, profesor de educación en la Universidad del Sur de California (sin relación con el Sr. Aguilar de las escuelas de Los Ángeles) dijo que el fracaso de las ambiciosas empresas de tecnología escolar es «un problema bastante común». Anteriormente trabajó como desarrollador de software educativo, incluidos algunos proyectos que no pudieron entregarse según lo prometido.

«El distrito tiene muchas necesidades complejas y muchos problemas de seguridad», dijo. «Pero a menudo carecen de la experiencia técnica para examinar realmente lo que están comprando».

El avance de la inteligencia artificial no es la primera vez que Los Ángeles invierte en tecnología educativa y los resultados son cuestionables. A partir de 2013, bajo el superintendente anterior, el distrito gastó decenas de millones de dólares para comprar iPads precargados con materiales curriculares, pero tuvo problemas arruinado por razones de seguridad y accidentes técnicos.

Durante el discurso de abril de Carvalho en una conferencia organizada por la Universidad Estatal de Arizona y la firma de capital de riesgo GSV Ventures, dijo que el chatbot Ed tiene acceso a datos de los estudiantes sobre puntajes de exámenes, salud mental, salud física y estatus socioeconómico familiar.

La Sra. Smith-Griffin se unió a él en el escenario para explicar que los datos de los estudiantes viven en un «jardín amurallado» al que sólo se puede acceder en el «Ecosistema Educativo».

La Sra. Smith-Griffin no respondió a las solicitudes de entrevista. Vaughan, de las escuelas de Los Ángeles, dijo que el distrito protegerá la privacidad y seguridad de los datos en la plataforma «independientemente de lo que le suceda a AllHere como empresa».

En abril, AllHere dijo que prestaba servicios a «9.100 escuelas en 36 estados». Por Los 74 informessitio de noticias sobre educación, algunos de los otros acuerdos de AllHere con distritos escolares en el rango de cinco cifras eran pequeños en comparación con el acuerdo con Los Ángeles, que ya le había reportado a la compañía más de $ 2 millones.

A algunos clientes fuera de Los Ángeles se les ha dicho que los servicios de la compañía se han descontinuado en gran medida.

Las Escuelas Públicas del Condado de Prince George en Maryland supieron por medio de AllHere el 18 de junio que «con efecto inmediato» la startup ya no podría ofrecer su servicio de mensajería de texto, dijo un portavoz del distrito, debido a «circunstancias financieras imprevistas».

Susan C. playero participó en el estudio.