🌐 Google revisa política de IA escolar tras críticas políticas en EE.UU.
Google intenta revertir la controvertida política d'IA escolar després de la reacció política
Google ha fet marxa enrere en la seva controvertida política d'intel·ligència artificial a les escoles, després de rebre un allau de crítiques tant de l'opinió pública com de polítics. La polèmica va sorgir arran d'un informe del New York Times que assenyalava que Google prohibiria als estudiants accedir al seu motor de cerca si les seves escoles decidien vetar l'ús d'IA completament.
Chris Phillips, vicepresident d'educació de Google, havia declarat que "la cerca i la IA estan profundament integrades", i que si una escola prohibia l'accés als seus serveis d'IA, els estudiants "no tindrien accés a la cerca". Això va provocar una forta reacció de l'alcalde de Nova York, Zohran Mamdani, qui va acusar Google d'"intentar utilitzar el seu poder monopolístic per forçar la IA a les nostres escoles públiques".
En resposta, Google ha afirmat que tot va ser un malentès i que la seva intenció és oferir més opcions a les escoles, no menys. Segons la nova iniciativa, que s'espera que entri en vigor a principis de l'any vinent, els serveis de Google com Gemini, Gemini Notebook i Search estaran desactivats per defecte per als comptes d'estudiants de K-12. No obstant això, les escoles podran triar quins d'aquests serveis activar, permetent "activar un, dos o tots aquests serveis de manera individual".
Malgrat les aclaracions de Google, la preocupació persisteix, especialment després que un recent informe de Common Sense Media qualifiqués les funcions d'IA de Google Search com de "risc inacceptable" per a nens i adolescents. L'informe va revelar que el Mode IA va completar el 100% de les tasques escolars en 180 proves i, en ocasions, va proporcionar respostes incorrectes amb la mateixa seguretat que les correctes. A més, es va trobar que el Mode IA i els Resums d'IA no van detectar signes clars d'ideació suïcida i van validar comportaments perillosos.
Google ha anunciat que ha escoltat les preocupacions i planeja actualitzar Search per a les escoles. L'empresa començarà a provar aquests canvis en algunes escoles dels EUA aquest mes.
Google Tries to Walk Back Controversial School AI Policy Following Political Backlash
Google ha dado marcha atrás en su controvertida política de inteligencia artificial en las escuelas, tras recibir un aluvión de críticas tanto de la opinión pública como de políticos. La polémica surgió a raíz de un informe del New York Times que señalaba que Google prohibiría a los estudiantes acceder a su motor de búsqueda si sus escuelas decidían vetar el uso de IA por completo.
Chris Phillips, vicepresidente de educación de Google, había declarado que «la búsqueda y la IA están profundamente integradas», y que si una escuela prohibía el acceso a sus servicios de IA, los estudiantes «no tendrían acceso a la búsqueda». Esto provocó una fuerte reacción del alcalde de Nueva York, Zohran Mamdani, quien acusó a Google de «intentar usar su poder monopolístico para forzar la IA en nuestras escuelas públicas».
En respuesta, Google ha afirmado que todo fue un malentendido y que su intención es ofrecer más opciones a las escuelas, no menos. Según la nueva iniciativa, que se espera entre en vigor a principios del próximo año, los servicios de Google como Gemini, Gemini Notebook y Search estarán desactivados por defecto para las cuentas de estudiantes de K-12. No obstante, las escuelas podrán elegir cuáles de estos servicios activar, permitiendo «activar uno, dos o todos estos servicios de manera individual».
A pesar de las aclaraciones de Google, la preocupación persiste, especialmente después de que un reciente informe de Common Sense Media calificara las funciones de IA de Google Search como de «riesgo inaceptable» para niños y adolescentes. El informe reveló que el Modo IA completó el 100% de las tareas escolares en 180 pruebas y, en ocasiones, proporcionó respuestas incorrectas con la misma seguridad que las correctas. Además, se encontró que el Modo IA y los Resúmenes de IA no detectaron signos claros de ideación suicida y validaron comportamientos peligrosos.
Google ha anunciado que escuchó las preocupaciones y planea actualizar Search para las escuelas. La empresa comenzará a probar estos cambios en algunas escuelas de EE. UU. este mes.
Google Tries to Walk Back Controversial School AI Policy Following Political Backlash
Google has reversed its controversial artificial intelligence policy in schools after receiving a barrage of criticism from both the public and politicians. The controversy arose following a report by the New York Times which indicated that Google would prohibit students from accessing its search engine if their schools decided to ban the use of AI entirely.
Chris Phillips, Google's vice president of education, had stated that "search and AI are deeply integrated," and that if a school banned access to its AI services, students "would not have access to search." This prompted a strong reaction from New York City Mayor Zohran Mamdani, who accused Google of "trying to use its monopolistic power to force AI into our public schools."
In response, Google has claimed that it was all a misunderstanding and that its intention is to offer more options to schools, not fewer. According to the new initiative, which is expected to come into effect early next year, Google services like Gemini, Gemini Notebook, and Search will be disabled by default for K-12 student accounts. However, schools will be able to choose which of these services to activate, allowing them to "enable one, two, or all of these services individually."
Despite Google's clarifications, concerns persist, especially after a recent report by Common Sense Media rated Google's AI Search features as an "unacceptable risk" for children and teenagers. The report revealed that AI Mode completed 100% of school tasks in 180 tests and, at times, provided incorrect answers with the same confidence as correct ones. Additionally, it was found that AI Mode and AI Summaries failed to detect clear signs of suicidal ideation and validated dangerous behaviours.
Google has announced that it has heard the concerns and plans to update Search for schools. The company will begin testing these changes in some US schools this month.
¿Te ha interesado esta noticia?
Recibe cada mañana el resumen de IA y sociedad directo en tu email.
Suscríbete gratis →