O CTO da Microsoft, Kevin Scott, apresentando-se no palco em frente a uma parede azul com o logotipo da Microsoft.  Cabeças de público desfocadas em primeiro plano.

Acontece que a postura o cenário atual da IA pode ser atribuída – como você sabe – ao medo, ao ciúme e à intensa ambição capitalista. E-mails revelados no Caso antitruste do Departamento de Justiça contra o Googleprimeiro relatado por Insider de negóciosmostram executivos da Microsoft expressando alarme e inveja pela liderança de IA do Google. Isso gerou uma urgência que levou a fabricante do Windows investimento inicial de bilhões de dólares em seu parceiro agora indispensável, OpenAI.

Em um tópico de e-mail de 2019 fortemente editado intitulado “Reflexões sobre OpenAI”, o CEO da Microsoft, Satya Nadella, encaminha uma longa mensagem do CTO Kevin Scott para a CFO Amy Hood. “E-mail muito bom que explica por que quero que façamos isso… e também por que garantiremos que nosso pessoal de infra-estrutura execute”, escreveu Nadella.

Scott escreveu que estava “muito, muito preocupado” com o rápido crescimento das capacidades de IA do Google. Ele diz que inicialmente rejeitou as “acrobacias de jogo” da empresa, provavelmente referindo-se aos modelos AlphaGo do Google. Um deles venceu o campeão mundial de Go, Ke Jie em 2017, um feito notável para a época. (Os modelos posteriores do Google superaram esse, abandonando a necessidade de treinamento humano completamente.)

Mas Scott diz que ignorar o progresso do Google nos jogos “foi um erro”. “Quando eles pegaram toda a infraestrutura que construíram para construir modelos (em linguagem natural) que não poderíamos replicar facilmente, comecei a levar as coisas mais a sério”, escreveu Scott. “E enquanto eu tentava entender onde estavam todas as lacunas de capacidade entre o Google e nós para treinamento de modelo, fiquei muito, muito preocupado.”

O CTO da Microsoft, Kevin Scott, apresentando-se no palco em frente a uma parede azul com o logotipo da Microsoft.  Cabeças de público desfocadas em primeiro plano.

CTO da Microsoft, Kevin Scott (Microsoft)

Scott conta como a Microsoft lutou para copiar o BERT-large do Google, um modelo de IA que decifra o significado e o contexto das palavras em uma frase. Scott atribuiu a culpa aos saltos de infra-estrutura que a sua rival tinha feito – e que a Microsoft não tinha feito.

“Acontece que apenas replicar o BERT-grande não foi fácil para nós. Embora tivéssemos o modelo para o modelo, levamos cerca de 6 meses para treiná-lo porque nossa infraestrutura não estava à altura da tarefa”, escreveu o CTO da Microsoft. “O Google tinha o BERT por pelo menos seis meses antes disso, então, no tempo que levamos para hackear juntos a capacidade de treinar um modelo de parâmetros de 340 milhões, eles tiveram um ano para descobrir como colocá-lo em produção e seguir em frente para modelos mais interessantes e em maior escala.”

Ele também admirou e invejou os recursos de preenchimento automático do Gmail do Google, dizendo que estava “ficando assustadoramente bom”. Ele comentou que a Microsoft estava “vários anos atrás da concorrência em termos de escala (aprendizado de máquina)”. Ele comentou sobre o crescimento “interessante” da OpenAI, DeepMind e Google Brain.

Scott elogiou o pessoal “muito inteligente” da Microsoft em suas equipes de aprendizado de máquina, mas disse que suas ambições foram restringidas. “Mas as principais equipes de aprendizagem profunda dentro de cada uma dessas equipes maiores são muito pequenas, e suas ambições também foram limitadas, o que significa que mesmo quando começamos a alimentá-las com recursos, elas ainda terão que passar por um processo de aprendizagem para crescer. ”Scott escreveu. “E estamos vários anos atrás da concorrência em termos de escala de ML.”

Depois de informar a Hood que as preocupações de Scott eram “por que quero que façamos isso”, ou seja, investir na OpenAI, a empresa atendeu aos desejos de seu CEO. A Microsoft investiu um bilhão de dólares na startup liderada por Sam Altman em 2019, e o resto é uma história em rápida mudança. (É neve investiu US$ 13 bilhõesn.) É uma tecnologia que faz algumas coisas incríveis mas ameaça destruir o mercado de trabalho e dar aos propagandistas suas ferramentas mais poderosas até o momento no que já era uma idade de desinformação desenfreada.

Fuente