A IA não deve ser confiável: por que entender isso pode ser transformador

Amidst the hype surrounding AI, there's a growing realization that AI isn't as "smart" as we've been made to believe. TechCrunch's Devin Coldewey describes AI as "the world's most comprehensively informed bullshitter rather than an authority on any subject."

Como CTO, um dos principais elementos do sucesso é ser capaz de entender a tecnologia. A meu ver, em um determinado momento, você tem uma tecnologia e um conjunto de problemas. E para essa tecnologia existe um limite: dentro desse limite está o conjunto de problemas que ela resolve bem, e fora desse limite está o conjunto de problemas para os quais ela não funciona.

No momento, com a IA, estamos vendo o quanto é importante que os CISOS entendam a tecnologia.

CTOs: Seja intencional ao encontrar o verdadeiro valor de uma tecnologia

Uma função fundamental que os CTOs executam é observar uma tecnologia e ver claramente a forma e o tamanho desse limite. Isso não é algo que você possa fazer sozinho; você precisa ler e conversar com pessoas que o ajudem a descobrir e ver esse limite com clareza. Mas isso também traz desafios.  

Por um lado, você tem as pessoas que são educadoras. Como você, eles fazem o possível para dizer o que há de bom e ruim em uma tecnologia e tentam esclarecer partes desse limite. Por outro lado, você tem aqueles que estão tentando influenciar sua decisão e eles só querem dizer que a tecnologia resolve muito mais problemas do que resolve — ou vender a promessa disso. Mesmo que você assuma uma intenção positiva, a falta de clareza pode ser prejudicial e levar você, como líder em tecnologia, a tomar decisões incorretas que podem ter impactos negativos nos negócios.  

Os CTOs precisam buscar e encontrar a verdade, e somente com base nessa verdade eles podem aproveitar a tecnologia para o bem dos negócios. Sem isso, eles estão condenados, seus resultados são apenas uma função da sorte, não da habilidade.

Por que o limite da tecnologia de IA é menor do que parece

Agora, vamos à inteligência artificial (IA), ou essa recente onda de IA generativa. Acho que o que está sendo feito é realmente incrível e transformador. Mas vejo que estamos sendo influenciados a pensar que o “limite tecnológico” da IA é muito maior do que é hoje. Essa expansão incorreta está obscurecendo nosso julgamento e pode causar problemas na identificação de boas soluções para comprar ou construir.

We’ve all seen AI hallucinating, and we’ve seen the Mijourney pictures of the people with 6 fingers and 50 teeth. It’s kind of creepy. I mean 5 or 6 fingers, that’s just an unimportant detail right? I even happened to ask ChatGPT who was the CTO of Illumio – and I have been for 10 years, so that should be in its body of knowledge – and according to it I’m not…hmmm.

Reduzir os limites tecnológicos da IA revela seu valor real

É aqui que começo a achar isso empolgante. Pegue a perfeição e coloque-a diretamente fora dos limites da tecnologia de IA. Pegue alta exatidão e precisão e coloque-as fora dos limites da tecnologia de IA. Agora, considere o que está dentro e quais inovações podem se concentrar em problemas em que você só precisa estar 50% certo.  

Devin Coldewey had a great quote in his TechCrunch article that illustrates the same point: “All that matters is that these systems do not distinguish between something that is correct and something that looks correct. Once you understand that the AI considers these things more or less interchangeable, everything makes a lot more sense.”  

Quais são algumas dessas coisas? Eu acho que a arte generativa é um lugar que tem muito potencial para a IA. A arte é subjetiva. O que fala com uma pessoa não fala com outra. E muitas vezes “bom o suficiente” é suficiente para sua necessidade, pois pode haver centenas de imagens muito boas que podem ser mostradas em sua apresentação para comunicar seu ponto de vista.  

Outro ótimo exemplo é o problema que todos nós parecemos ter ao encarar uma folha de papel em branco. Quando me sento para escrever uma entrada de blog (incluindo esta), é um obstáculo começar. A IA generativa poderia escrever um primeiro rascunho, e poderíamos chamá-lo de rascunho zero. Mesmo que você não tenha tirado nada do que a IA criou ou se ela servisse como um catalisador para começar, ela ainda seria valiosa.

Esses são apenas dois exemplos de casos em que apenas estar 50% certo agrega valor. Tenho certeza de que existem muitos outros, e estou procurando esses tipos de casos que estão dentro da verdadeira “fronteira tecnológica” da IA em minha própria exploração tecnológica.  

Conheça os verdadeiros limites da tecnologia

Certifique-se de entender o verdadeiro “limite tecnológico” ao perseguir seus esforços criativos e inovadores — há um ponto ideal para encontrar hoje.  

I would love to hear from those who agree (or disagree) on ideas of the AI tech boundary. Share your thoughts with @illumio on LinkedIn or Twitter.