“Esta tecnologia é um novo vetor para o assédio sexual e o bullying, que eram problemas de longa data (antes do uso generalizado da IA)”, diz Laird, “e esta tornou-se uma nova forma de exacerbar isso”.
De acordo com o relatório, 28% dos professores que utilizam IA para muitas tarefas relacionadas com a escola afirmam que a sua escola sofreu uma violação de dados em grande escala, em comparação com 18% dos professores que não utilizam IA ou a utilizam apenas para algumas tarefas.
Laird, que anteriormente trabalhou como responsável pela privacidade de dados na agência estadual de educação de DC, diz acreditar que quanto mais dados as escolas compartilham com os sistemas de IA, maior o risco de violação de dados.
“Os sistemas de IA coletam muitos dados e também emitem muitas informações”, diz ela. “Isso está contribuindo para essa conexão.”
Os professores com níveis mais elevados de utilização de IA relacionada com a escola também eram mais propensos a reportar que um sistema de IA que utilizavam nas aulas não funcionou como pretendido.
Estes professores também eram mais propensos a relatar que o uso da IA prejudicava a confiança da comunidade nas escolas. Por exemplo, Laird diz que as escolas utilizam frequentemente software alimentado por IA para monitorizar a actividade em dispositivos fornecidos pela escola, em alguns casos levando a alarmes falsos e até à detenção de estudantes. Ela diz que isso é especialmente preocupante para os estudantes que não podem comprar seus próprios computadores pessoais.
“Portanto, se você possui um dispositivo pessoal e não precisa usar um dispositivo fornecido pela escola, basicamente pode se dar ao luxo de manter seus documentos e mensagens privados”, diz Laird.
Riscos para o bem-estar dos alunos
Os alunos que frequentam escolas que utilizam muito a IA também foram mais propensos a relatar que eles ou um amigo usaram a IA para apoio à saúde mental, como companheira, como forma de escapar da realidade e de ter um relacionamento amoroso.
Quando os alunos relataram ter conversas com sistemas de IA por motivos pessoais, e não para trabalhos escolares, 31% disseram que usaram um dispositivo ou software fornecido pela escola.
“Acho que os alunos deveriam saber que não estão realmente falando com uma pessoa. Eles estão falando com uma ferramenta, e essas ferramentas têm limitações conhecidas”, diz Laird. “Nossa pesquisa sugere que a alfabetização em IA e o treinamento que os alunos recebem são muito básicos.”
Laird diz que estudantes e educadores muitas vezes não recebem treinamento ou orientação para ajudá-los a enfrentar os desafios mais complexos associados à tecnologia.
Por exemplo, apenas 11% dos professores inquiridos afirmaram ter recebido formação sobre como responder caso suspeitem que a utilização da IA por um aluno é prejudicial ao seu bem-estar.
Os educadores que utilizam frequentemente a IA eram mais propensos a dizer que a tecnologia melhora o seu ensino, poupa-lhes tempo e proporciona uma aprendizagem individualizada aos alunos – mas os alunos das escolas onde a utilização da IA é predominante relataram níveis mais elevados de preocupação com a tecnologia, incluindo o facto de os fazer sentirem-se menos ligados aos seus professores.
“O que ouvimos dos alunos é que, embora possa haver valor nisso, também há algumas consequências negativas”, diz Laird. “E se quisermos perceber os benefícios da IA, você sabe, realmente precisamos prestar atenção ao que os alunos estão nos dizendo.”
