A Meta anunciou uma transformação em sua abordagem de moderação de conteúdo, reduzindo drasticamente o número de moderadores humanos em favor de sistemas baseados em inteligência artificial. A mudança, que ocorre há pouco mais de um ano desde a reversão de verificadores de fatos de terceiros e grande parte da moderação proativa, será implementada nos próximos anos. A empresa afirma que isso permitirá capturar mais problemas de forma mais rápida do que o método atual.
Transição para Sistemas de IA
A Meta planeja substituir grande parte de sua força de trabalho humana por ferramentas de IA, sem especificar quantos contratados serão afetados. A companhia emprega milhares de contratados em todo o mundo para revisar conteúdos sinalizados por sistemas de IA e relatórios de usuários, entre outras tarefas. Durante a transição, humanos manterão um papel chave em decisões críticas, como apelações de desativação de contas ou encaminhamentos para autoridades policiais.
Além disso, especialistas humanos continuarão projetando, treinando, supervisionando e avaliando os sistemas de IA, medindo o desempenho e tomando decisões complexas de alto impacto. A Meta destacou que a transição ocorrerá reduzindo drasticamente o número de moderadores humanos. No curto prazo, a empresa inicia testes com sistemas baseados em modelos de linguagem grandes para moderação de conteúdo, com resultados iniciais promissores.
Vantagens e Alcance da IA
Os novos sistemas de IA da Meta podem lidar com linguagens utilizadas por 98% das pessoas online, em comparação com os 80 idiomas atualmente suportados pelas capacidades de moderação. As regras subjacentes da plataforma não serão alteradas, mas a abordagem pode influenciar a percepção dos usuários sobre a aplicação das políticas. A companhia já depende amplamente de IA para certas regras, e muitos usuários consideram que esses sistemas cometem erros excessivos, dificultando o acesso a revisões humanas em apelações.
Por outro lado, a Meta afirma que os novos sistemas cometem menos erros de aplicação excessiva de regras e capturam mais violações graves. Essa mudança pode gerar economias significativas ao reduzir a força de trabalho contratada. Em paralelo, a empresa planeja auxiliar na formação e em outras tarefas relacionadas à IA.
Introdução de Assistente de Suporte
No horizonte mais próximo, a Meta lança um assistente de suporte alimentado por IA para auxiliar usuários com problemas em contas. O chatbot, que está sendo implementado agora nos aplicativos do Facebook e Instagram, ajuda a reportar conteúdos, gerenciar apelações, redefinir senhas e ajustar configurações de contas. Inicialmente, ele oferece suporte para contas bloqueadas em casos selecionados nos Estados Unidos e no Canadá.
