Ferramenta para detectar fake news é desenvolvida pela USP e pela UFSCar

Acessível via WhatsApp e na internet, plataforma que possibilita checar se uma notícia é falsa ou verdadeira está em fase de testes e aperfeiçoamento

Entre os pesquisadores que desenvolvem o projeto estão Roney (à esquerda), Rafael e o professor Thiago Pardo (em pé)

Quantas vezes você já recebeu uma informação via um aplicativo de troca de mensagens instantâneas, como o WhatsApp, ou leu uma notícia circulando pela internet e gostaria de checar a veracidade do conteúdo? Agora, já é possível fazer essa verificação usando uma ferramenta piloto criada por um grupo de pesquisadores da USP e da Universidade Federal de São Carlos (UFSCar). A plataforma está em fase de testes e aperfeiçoamento, mas já é possível acessá-la gratuitamente via web ou pelo WhatsApp. 

“A gente sabe que, quando uma pessoa está mentindo, inconscientemente, isso afeta a produção do texto. Mudam as palavras que ela usa e as estruturas do texto. Além disso, a pessoa costuma ser mais assertiva e emotiva. Então, uma das formas de detectar textos enganosos é medir essas características”, explica o professor Thiago Pardo, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos. Pesquisador do Núcleo Interinstitucional de Linguística Computacional (NILC), Thiago é o coordenador do projeto que resultou na criação da plataforma e na publicação do artigo Contributions to the Study of Fake News in Portuguese: New Corpus and Automatic Detection Results, apresentado no final de setembro na 13ª Conferência Internacional de Processamento Computacional do Português. 

“A ideia é que a ferramenta seja um apoio para o usuário. Ainda estamos no início desse projeto e, no estado atual, o sistema identifica, com 90% de precisão, notícias que são totalmente verdadeiras ou totalmente falsas”, pondera o professor. “No entanto, as pessoas que propagam fake news costumam embasar suas mentiras em fatos verdadeiros. Nossa plataforma ainda não tem a capacidade de separar as informações com esse nível de refinamento, mas estamos trabalhando para isso”, completa Thiago. 

Para ver como a ferramenta funciona no WhatsApp, por exemplo, pegue seu smartphone e acesse este link: https://otwoo.app/nilc-fakenews. Automaticamente, uma janela de troca de mensagens do aplicativo se abrirá e você vai ler “Nilc-FakeNews” na tela. Basta apertar a tecla enviar e, imediatamente, você receberá outra mensagem: “Olá! Seja bem-vindo ao detector de fake news do NILC-USP – Detecção Automática de Notícias Falsas para o Português! O sistema irá utilizar o modelo de detecção para avaliar se a notícia é falsa ou verdadeira. Insira o corpo de uma notícia.” Pronto, você acabou de acessar o sistema de verificação! Agora, é só colar a notícia que deseja checar. Se forem verificados indícios de fake news, o sistema alertará: “Essa notícia pode ser falsa. Por favor, procure outras fontes confiáveis antes de divulgá-la”. 

Após cerca de 20 minutos sem uso, é necessário reativar o acesso ao sistema. Para isso, basta digitar a palavra “Fake” e apertar enviar. Você receberá novamente a mensagem “Olá! Seja bem-vindo...”. Em seguida, pode colar outra notícia e enviar para checagem.

Roney e Rafael explicam como funciona a plataforma no WhatsApp

Ensinando o computador – Mas como os pesquisadores conseguiram ensinar o computador a identificar o que é mentira e o que é verdade, se essa tarefa é difícil até mesmo para nós, seres humanos inteligentes? É aí que entram as técnicas da área de inteligência artificial. Para tornar a máquina capaz de reconhecer as características dos textos mentirosos e a dos textos verdadeiros, bem como diferenciá-los, uma série de passos precisa ser realizada. 

O primeiro desafio é construir um conjunto de notícias falsas e verdadeiras em português. É a partir do reconhecimento das características desse conjunto de dados que o computador poderá ser treinado para avaliar futuros textos. São as informações que os humanos inserem nas máquinas e os padrões criados para analisar cada conjunto de dados que modelam os sistemas computacionais para que realizem futuras tarefas. Essa é a mesma tecnologia que possibilita ao Facebook, por exemplo, reconhecer faces. Mas por que, então, quando o Facebook começou a fazer reconhecimento facial o índice de acerto era maior quando aparecia o rosto de alguém branco e ocidental? Ora, por causa do viés que havia no conjunto de faces utilizado para treinar a plataforma: a maioria eram imagens de rostos de seres humanos brancos e ocidentais. A questão gerou uma série de críticas à empresa e demandou um aprimoramento da ferramenta. 

No caso da plataforma criada para detectar fake news, o conjunto de notícias utilizado é composto por 3,6 mil textos falsos e 3,6 mil verdadeiros, que foram publicados na web entre janeiro de 2016 e janeiro de 2018. Esses textos foram coletados manualmente e analisados para garantir que apenas os que fossem totalmente falsos ou totalmente verdadeiros compusessem o conjunto, que está disponível para utilização em outras pesquisas (veja neste link: icmc.usp.br/e/f9049). 

Cada notícia verdadeira possui uma notícia falsa correspondente. Assim, por exemplo, do total de 4.180 notícias sobre política, metade (2.090) são falsas e metade são verdadeiras. O mesmo vale para todas as demais categorias.

Os conhecimentos da área de inteligência artificial entram em campo na sequência: os cientistas usam técnicas computacionais para processar os textos coletados automaticamente, fazer a classificação gramatical de todas as palavras, separar cada sentença e cada termo (incluindo pontuações e números). Depois, é hora de identificar as características presentes nesses textos que poderiam ser empregadas para classificá-los em falsos ou verdadeiros. Como os textos verdadeiros costumam ser mais extensos que os falsos, a quantidade de palavras e sentenças não é um fator adequado para diferenciá-los. “Se usássemos esse critério, o sistema teria a tendência de classificar todos os textos curtos como falsos e os extensos como verdadeiros”, explica o doutorando Roney Lira, do ICMC. Para evitar isso, os pesquisadores utilizaram outros parâmetros como o número médio de verbos, substantivos, adjetivos, advérbios e pronomes presentes nos textos (veja a tabela a seguir). 

Erro ortográfico é um dos parâmetros mais relevantes para a verificação da veracidade dos textos

“Das 3,6 mil notícias falsas que coletamos, 36% possuíam algum erro ortográfico, enquanto apenas 3% das verdadeiras apresentavam esse problema”, pondera Roney. Por isso, a presença de um erro ortográfico passou a se tornar um parâmetro relevante para a verificação da veracidade dos textos. Afinal de contas, a probabilidade de uma notícia ser falsa é muito maior se houver um erro ortográfico. 

Na penúltima etapa, os pesquisadores lançam mão de outra técnica de inteligência artificial: “Empregamos métodos clássicos de aprendizagem de máquina, que estão entre os mais utilizados atualmente, e conseguimos treinar o sistema com um índice de 90% de acerto na classificação das notícias”, diz Thiago. O professor explica que o índice de acerto é alto porque o sistema avalia, simultaneamente, diversas propriedades presentes nos textos. 

O professor Thiago Pardo é o coordenador do projeto, que está sendo desenvolvido há cerca de um ano e meio

Aprendendo e avançando – Cursando Ciências de Computação no ICMC, o estudante Rafael Augusto Monteiro é um dos colaboradores do projeto, do qual participou por meio de uma iniciação científica. Ele já sonha com os desafios futuros: “Nosso intuito inicial foi trabalhar com textos escritos, pois são uma unidade fundamental para análise em linguística computacional. Mas queremos expandir o projeto e passar a avaliar imagens, vídeos, áudios, abarcando outras mídias”. 

Já Roney pretende, durante o doutorado, eliminar uma das principais limitações do detector de notícias: avaliar textos que contém partes falsas e verdadeiras, separando o joio do trigo. “O próximo passo é tentarmos fazer checagem de conteúdo automaticamente, algo que as agências de notícias e os jornalistas fazem hoje manualmente”, conta Thiago. O professor também quer avançar na detecção de outros tipos de conteúdos enganosos (do inglês, deception) como as revisões falsas de produtos e os textos satíricos. “A mesma tecnologia da detecção de fake news pode ser usada nesses outros casos mediante adaptações. Nas notícias falsas, o grau de emoção do texto faz diferença. Em textos satíricos, como há sempre exagero, humor, espera-se encontrar alto teor emocional. Então, talvez essa característica deixe de se tornar relevante. Por outro lado, na revisão de produtos, é necessário checar as informações técnicas, por exemplo”. 

Financiado pelo Programa Institucional de Bolsas de Iniciação Científica (PIBIC) do CNPq e por outras duas agências de fomento brasileiras (CAPES e FAPESP), o projeto Detecção Automática de Notícias Falsas para o Português conta com a participação de mais três pesquisadores: Evandro Ruiz, que é ex-aluno do ICMC e professor da Faculdade de Filosofia, Ciências e Letras de Ribeirão Preto da USP; Tiago de Almeida, professor do departamento de Computação da UFSCar no campus Sorocaba; e de Oto Araújo Vale, professor do departamento de Letras da UFSCar no campus São Carlos. A equipe teve, ainda, o apoio do doutorando Murilo Gazzola, do ICMC, que foi responsável por disponibilizar a plataforma no WhatsApp. Todo esse trabalho tem sido realizado no âmbito de um projeto maior chamado Opinando (Opinion Mining for Portuguese: Concept-based Approaches and Beyond), que visa fornecer subsídios para a área de mineração de opinião para a língua portuguesa. 

Com aproximadamente um ano e meio de vida, o projeto já produziu resultados relevantes e os avanços que poderão ser alcançados no futuro são ainda mais promissores. Mas o professor Thiago ressalta que, por mais que a tecnologia nos ajude na difícil tarefa de identificar as fake news, continuará sendo fundamental a obtenção de informações por meio de fontes confiáveis: “Nenhum sistema será 100% eficiente. Cada vez que se cria algo para detectar um problema, alguém vai descobrir um jeito de burlar”. 

Se você acredita que os computadores podem nos salvar das fake news, informamos que essa notícia possivelmente é verdadeira. Mas não exagere: se você escrever que os computadores serão os salvadores da pátria no WhatsApp e enviar para o detector, vai descobrir que essa notícia pode ser falsa. Até o computador reconhece que os sistemas computacionais, tal como os seres humanos, são sujeitos a falhas e que não basta a tecnologia ou um salvador da pátria para solucionar os complexos problemas da humanidade. 

Ao completar 25 anos de existência, NILC é uma referência em processamento de linguagem natural do Brasil.
Os pesquisadores do Núcleo fomentaram o desenvolvimento de revisores ortográficos e gramaticais para o português,
tal como o que é até utilizado no Word, da Microsoft

Texto e fotos: Denise Casatti – Assessoria de Comunicação do ICMC/USP 
Arte das tabelas: Fernando Mazzola

Mais informações

Site do detector de notícias falsas: http://nilc-fakenews.herokuapp.com/

Link para acessar a ferramenta no WhatsApp: https://otwoo.app/nilc-fakenews

Site do projeto Opinando: https://sites.google.com/icmc.usp.br/opinando/

Conjuntos de notícias verdadeiras e falsas (Fake.Br Corpus): icmc.usp.br/e/f9049

Artigo Contributions to the Study of Fake News in Portuguese: New Corpus and Automatic Detection Results (versão pré-impressão):

http://conteudo.icmc.usp.br/pessoas/taspardo/PROPOR2018-MonteiroEtAl.pdf

Contato para esta pauta

Assessoria de Comunicação do ICMC: (16) 3373.9666

E-mail: comunica@icmc.usp.br

Ancestrais da inteligência artificial: rastros de uma história que está em construção

Se você pensa que as aplicações de inteligência artificial são uma novidade, vale a pena conferir os vestígios que encontramos no século passado; evento que acontecerá na USP, em São Carlos, ajudará a compreender as origens remotas desse campo do conhecimento, entender algumas oportunidades atuais e planejar o futuro 

Poucos sabem que, nessa imagem, há um exemplo de aplicação de inteligência artificial

Pense que você está sem conexão com a internet – o que é bastante raro atualmente, mas faça um esforço imaginativo. Justo nesse dia, você precisa urgentemente redigir um texto em português. Então, liga o computador e acessa um dos mais famosos editores de texto da atualidade: o Word, da Microsoft. Começa a digitar e escreve “inteligencia” artificial. Imediatamente, a palavra aparece grifada e, ao clicar sobre ela, vê uma recomendação para colocar um acento circunflexo na segunda vogal “e”. 

Pois bem, você acaba de experimentar, na prática, uma aplicação de inteligência artificial sem sequer estar conectado à rede mundial de computadores ou usando as últimas tecnologias. Poucos sabem que esse simples e prosaico exemplo tem origem no interior do Estado de São Paulo, na cidade de São Carlos. Conhecida como capital da tecnologia, o município é berço dos recursos linguístico-computacionais que fomentaram o desenvolvimento de revisores ortográficos e gramaticais para o português. Suas origens remontam a um projeto realizado por pesquisadores do Instituto de Ciências Matemáticas e de Computação da USP sob demanda de uma grande empresa de tecnologia brasileira já extinta, a Itautec, ainda nos primeiros anos da longínqua década de 1990. 

Os direitos de uso e comercialização da ferramenta de revisão automática foram adquiridos posteriormente pela Microsoft e adicionados ao Word. Naquele tempo, o que a Itautec queria era oferecer aos clientes o inovador revisor ortográfico e gramatical para o português por meio de disquetes, um disco de armazenamento magnético fino e flexível que hoje é uma espécie de artefato pré-histórico (quem ainda lembra disso?), mas que fez um tremendo sucesso de meados de 1970 até o começo dos anos 2000.

Você se lembra dos disquetes? Eles também eram chamados de floppy disk

Uma língua para as máquinas – Estudar os primórdios do revisor automático do Word lança luz sobre as origens do campo da inteligência artificial. Muitos pensam que a área é fruto do desenvolvimento científico e tecnológico recente, já que esse assunto tem alcançado destaque na grande mídia. No entanto, essa concepção é tão equivocada que pode ser comparada às famosas fake news que rondam por aí, para usar uma palavra da moda amplamente empregada para designar outro fenômeno que, apesar de ter algumas características novas, existe a muito mais tempo do que você pode imaginar. 

É claro que há diversos recursos e aplicações de inteligência artificial que só foram criados mais recentemente, tendo em vista que os conhecimentos produzidos nesse campo se ampliaram de forma bastante veloz nas últimas décadas. Mas a professora Graça Nunes, do ICMC, explica que o processamento da língua dos humanos foi um dos primeiros terrenos explorados pelos cientistas da computação para além dos horizontes dos cálculos matemáticos: “A inteligência artificial surge para estudar os sistemas que, de alguma forma, não envolvem só os cálculos numéricos, mas abarcam algum tipo de inteligência, considerando a forma como compreendemos o que é a inteligência humana. Por ser uma tarefa típica dos seres humanos, o processar a linguagem pertence também ao campo da inteligência artificial”. 

Já o professor Thiago Pardo, do ICMC, assim define a linguística computacional: “Quando falamos em processamento da linguagem natural, estamos preocupados em habilitar a máquina, o computador, a lidar com a língua humana, tanto no que se refere ao entendimento quanto à produção. São dois lados da mesma moeda: a interpretação e a geração de textos escritos e falados em diferentes línguas. Isso abrange um leque de tarefas, tais como revisão ortográfica e gramatical, compreensão, tradução e sumarização, por exemplo”. 

O tipo de conhecimento presente no revisor do Word é também utilizado por mais de um bilhão de pessoas quando acessam a ferramenta de correção automática presente no aplicativo WhatsApp. Outro exemplo de como o processamento de linguagem natural está presente no nosso dia a dia é a Siri, um assistente virtual comandado por voz de propriedade da Apple, presente nos iPhones e iPads. Segundo a empresa, quanto mais você usa a Siri, mais ela sabe do que você precisa e quando precisa. Os mesmos princípios de computação presentes na Siri podem ser encontrados em ferramentas como o Google Tradutor e nos chatbots, que são aplicações conversacionais já utilizadas por diversas empresas para atender automaticamente os clientes.

Thiago Pardo (à esquerda) e Graça Nunes na defesa de mestrado de Henrico Brum (ao centro):
pesquisa sobre expansão de recursos para análise de sentimentos é um exemplo de estudo em linguística computacional

Um jovem experiente – Aquele projeto proposto pela Itautec no início dos anos de 1990 reuniu cientistas da computação, físicos e linguistas para enfrentarem o desafio de construir uma ferramenta automática destinada à revisão ortográfica e gramatical em língua portuguesa. Foi esse grupo que deu origem, em 1993, ao Núcleo Interinstitucional de Linguística Computacional (NILC), um grupo multidisciplinar de pesquisa, cuja sede fica no ICMC, na USP. 

Para comemorar a marca de 25 anos do NILC, assim como relembrar o passado, discutir as oportunidades atuais e planejar o futuro, um workshop acontecerá no auditório Fernão Stella Rodrigues Germano (confira a programação aqui) no dia 4 de maio, sexta-feira. Para participar, basta preencher o formulário disponível neste link: icmc.usp.br/e/8445d. Gratuito e aberto a todos os interessados, o evento é uma oportunidade para quem deseja conhecer o processamento da linguagem natural no Brasil, entender os projetos que estão sendo desenvolvidos atualmente e discutir as oportunidades de pesquisa futuras com os professores, pesquisadores, alunos e ex-alunos do grupo. 

Hoje, o Núcleo conta com pesquisadores de várias instituições, como USP, UNESP, Universidade Federal de São Carlos e Universidade Estadual de Maringá. No total, são 13 professores associados (das áreas de computação, linguística e física), 10 pesquisadores colaboradores regulares e cerca de 60 alunos de graduação e pós-graduação: um pós-doutorando, 23 doutorandos, 21 mestrandos e 15 alunos de graduação que atuam em projetos de iniciação científica e de conclusão de curso. 

Essa equipe tornou o NILC uma referência para os grupos de pesquisa em processamento de linguagem natural do Brasil. Além de inovar em diversas frentes de pesquisa, o Núcleo já estabeleceu colaborações com várias empresas – como Itautec, Microsoft, Samsung e Embrapa, possibilitando a transferência de tecnologia – e com institutos de pesquisa, como o Instituto de Estudos Avançados da ONU, para projetos de grande porte. 

Entre as diversas frentes de atuação do NILC estão projetos para enfrentar desafios científicos relacionados a tradução, ferramentas de auxílio à escrita científica e sumarização – que já são tradicionalmente explorados por quem investiga linguística computacional. Com a expansão da internet e das redes sociais, novas frentes de atuação foram criadas, destinadas, por exemplo, a estudar desafios como a detecção de fake news, a mineração de opinião e o diagnóstico de doenças mentais através da fala, entre muitos outros. Ninguém tem dúvida de que essa história está só começando.

Texto: Denise Casatti – Assessoria de Comunicação do ICMC 

Mais informações

Acesse este link: icmc.usp.br/e/87904

Seção de Eventos do ICMC: (16) 3373.9622 

E-mail: eventos@icmc.usp.br

Contato para esta pauta

Assessoria de Comunicação do ICMC: (16) 3373.9666 

E-mail: comunica@icmc.usp.br

Núcleo pesquisa ferramentas de suporte à escrita científica e atrai pesquisadores estrangeiros

Representantes da Universidade de Bath vieram ao Brasil conhecer as pesquisas do Núcleo Interinstitucional de Linguística Computacional sobre ferramentas de suporte à escrita científica, além de buscar parcerias para o desenvolvimento conjunto de cursos de escrita científica em inglês

Pesquisadoras da Universidade de Bath participaram de uma série de reuniões no Brasil

Como aprimorar a capacidade dos alunos em redigir textos científicos em inglês? Esse é um dos desafios que motiva as pesquisas realizadas pelo Núcleo Interinstitucional de Linguística Computacional (NILC), sediado no Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos. O trabalho que vem sendo realizado no NILC em prol do desenvolvimento de ferramentas de suporte à escrita científica em inglês tem atraído a atenção de pesquisadores estrangeiros. 

Uma grande equipe multidisciplinar, formada por linguistas e cientistas da computação, atua hoje no NILC. Eles fazem parte de diversas unidades da USP, da Universidade Federal de São Carlos (UFSCar), da Universidade Estadual Paulista (Unesp), da Universidade Estadual de Maringá, do Instituto Federal de São Paulo, da Empresa Brasileira de Pesquisa Agropecuária e da Universidade de Sheffield, na Inglaterra.

Durante este mês de agosto, duas pesquisadoras da Universidade de Bath, do English Language Centre (www.bath.ac.uk/elc) – Magdalen Ward Goodbody e Jackie Dannatt – estiveram no Brasil participando de uma série de reuniões com as instituições que fazem parte do Núcleo, a fim de conhecer as dificuldades dos brasileiros na escrita científica em inglês e buscar parcerias para o desenvolvimento conjunto de cursos de escrita.

Além disso, a professora Ethel Schuster, do Northern Essex Community College, dos Estados Unidos, também visitou São Carlos e ministrou workshops sobre escrita científica no ICMC e na UFSCar. No caso da UFSCar, o workshop foi parte das ações que estão sendo desenvolvidas na UFSCar rumo à criação de um Instituto de Línguas, previsto para 2015, sendo organizado pela professora Eliane Augusto-Navarro, do Departamento de Letras, e pela Pró-Reitora de Pós-Graduação da UFSCar, professora Débora Cristina Morato Pinto.

Schuster já esteve no país em duas ocasiões anteriores (2004/2005 e 2012/2013) desenvolvendo pesquisas em parceria com o NILC e foi a responsável pela criação de um curso online na plataforma Moodle sobre escrita científica em inglês (http://ead.cisc.usp.br/), instrumentalizado com as ferramentas desenvolvidas no NILC e com o conteúdo dos cursos de escrita ministrados no Instituto de Física (IFSC). Ela também é uma das editoras do livro que será lançado em breve ("Writing Scientific Papers in English Successfully: Your Complete Roadmap"), escrito em colaboração com vários membros do NILC e demais pesquisadores que trabalham com escrita científica na USP.

“O objetivo das representantes de Bath foi trocar experiências de instrumentalização de cursos de ensino de escrita científica em inglês, com vistas à criação conjunta de um Writing Center com a USP. É muito bom constatarmos que a nossa Universidade está exportando ideias para o mundo”, explicou a pesquisadora do NILC, Sandra Aluísio, professora do ICMC.

Professores Osvaldo (em pé) e Sandra (no computador) com as pesquisadoras de Bath

Desde que chegaram, as representantes da Universidade de Bath cumpriram uma agenda cheia. Elas visitaram a USP em São Paulo, a Universidade de Campinas, a UFSCar e, no campus da USP em São Carlos, estiveram no IFSC e no ICMC. Na manhã do dia 14 de agosto, as pesquisadoras foram recepcionadas no ICMC pelo vice-presidente da Comissão de Relações Internacionais do Instituto, professor Seiji Isotani, e pela professora Mariana Cúri. Isotani apresentou informações gerais a respeito da USP, do campus da Universidade em São Carlos e mostrou as diversas áreas de pesquisas existentes no ICMC. “É muito interessante ver a abrangência das áreas de pesquisas abarcadas pelo Instituto”, surpreendeu-se Dannatt.

Já a professora Mariana Cúri apresentou as pesquisas que têm realizado com o objetivo de construir um teste adaptativo informatizado para avaliar a proficiência em inglês acadêmico de alunos de mestrado do ICMC. Esse teste se beneficia dos dados e do exame de avaliação de inglês instrumental proposto pelo NILC em 2000, o qual é utilizado até hoje na avaliação da proficiência em inglês para o mestrado do Programa de Ciências de Computação e Matemática Computacional do ICMC.

No final do encontro, a professora Sandra Aluísio e o professor Osvaldo Novais de Oliveira Junior, do IFSC, apresentaram mais detalhes do curso online instrumentalizado com ferramentas de suporte à escrita. Oliveira Junior é presidente do Comitê Gestor do Portal da Escrita Científica do Campus da USP de São Carlos (www.escritacientifica.sc.usp.br), onde pode ser encontrado um exemplo do elenco das ferramentas de suporte à escrita desenvolvidas no NILC.

Texto e fotos: Denise Casatti - Assessoria de Comunicação ICMC/USP

Mais informações

Site do NILC: www.nilc.icmc.usp.br

Comissão de Relações Internacionais do ICMC

Telefone: (16) 3373. 8120

E-mail: crint@icmc.usp.br