Software de reconhecimento de imagem ainda está em sua infância. Às vezes, isso significa que é um pouco bobo, como quando os algoritmos do Wolfram Alpha confunde gatos com tubarões ou cabras com cães. Às vezes é um pouco assustador, como era quando o Facebook anunciou que pode identificar você mesmo se seu rosto não está mostrando. E às vezes é apenas realmente, realmente nojento.
Quando programador de computador baseado no Brooklyn Jacky Alcine olhou um conjunto de imagens que ele tinha carregado para o Google Fotos no domingo, ele descobriu que o serviço tinha tentado classificá-los de acordo com seu conteúdo. Google oferece esse recurso como um ponto de venda de seu serviço, vangloriando-se de que ele permite que você "busca por aquilo que você lembra sobre uma foto, nenhuma descrição necessário." No caso de Alcine, muitos desses rótulos eram basicamente precisa: Uma fotografia de uma asa de avião tinha sido arquivado em "Airplanes", um dos dois prédios altos em "Arranha-céus", e assim por diante.
Em seguida, houve uma imagem de Alcine e um amigo. Eles são ambos preto. E o Google tinha marcado a foto "Gorillas." Na investigação, Alcine descobriram que muito mais fotografias do par-e-nada mais tinha sido colocado sob essa rubrica literalmente desumanizante.
"Google", twittou Alcine, "vocês fodido." Para seu crédito, os funcionários do Google respondeu rapidamente. Yonatan Zunger, que trabalha como arquiteto-chefe da empresa de sociais, respondeu a chilrear de Alcine, escrevendo: "Este é 100% Not OK". Em os tweets seguintes, Zunger explicou que estendeu a mão para o Fotos da equipe e que ele estava trabalhando em Uma correção naquela noite.
De acordo com o Twitter feed do Alcine, o problema permaneceu no local mesmo após a suposta correção foi implementada. Em última análise, o Google aplicou uma solução secundária, retrabalhar o sistema para que ele não iria amarrar fotos para a tag "Gorilla" em tudo. Zunger escreve que ele também está trabalhando para desenvolver uma série de "correções de longo prazo", incluindo a identificação de "palavras que ser cuidadoso sobre em fotos de pessoas" e "melhor reconhecimento de rostos de pele escura."
Enquanto os esforços do Google para resolver este problema são admiráveis, ainda é preocupante que isso aconteceu em tudo. Como Alcine escreveu no Twitter: "Eu entendo como isso acontece; o problema é mais ainda sobre o porquê. "