Personalização, comunicação e inovação: os pilares da transformação

O caminho sustentável para transformar a experiência e aumentar o grau de satisfação dos clientes, um dos principais desafios das seguradoras do mercado de saúde, está na restruturação de seus processos digitais para se tornarem cada vez mais data-driven e engajarem os clientes com recursos de personalização baseados em dados, e potencializados por ajustes obtidos a partir de feedbacks em tempo real.

O Relatório Global de Tendências em Seguro Saúde 2025 da ��ѻ��ý apontou, por exemplo que 80% dos segurados afirmam preferir planos de saúde personalizados, enquanto 65% são atraídos por instituições capazes de oferecer soluções com tecnologia de ponta e apoiadas por IA.��

Nesse contexto, realizar a análise dos dados dos segurados para entender seus riscos de saúde, suas propensões e tendências, bem como acompanhar o ciclo de vida da apólice estabelecendo pontos de contato com o cliente, são maneiras de engajá-lo e permitem uma atuação preventiva. 

Paralelamente, a digitalização de serviços médicos como teles saúde, cuidados domiciliares e monitoramento remoto, ao mesmo tempo que impulsionam as seguradoras a expandir sua cobertura e integrarem novas frentes de cuidado, também alimentam suas bases com dados em tempo real e altamente valiosos.

Outro ponto crítico, a comunicação com o mercado é também apontada como um fator relevante para a evolução do relacionamento com os clientes, já que grande parte da insatisfação é alimentada por fatores como linguagem complexa nos contratos, benefícios mal interpretados e falta de transparência dos elementos de cobertura, carências e custos que geram complicações nos relacionamentos entre clientes, corretores e as instituições.

A padronização da linguagem usada nas descrições de produtos e a clareza e direcionamento das informações chaves através do uso da IA, por exemplo, são cruciais para reduzir mal-entendidos que geram chamadas desnecessárias ao serviço de atendimento ao cliente.

Para complementar a evolução para um relacionamento mais virtuoso e produtivo com o novo perfil de clientes da era digital, a expansão da cobertura para explorar novos caminhos de cuidado e valorização da saúde, com foco em bem-estar e prevenção, tem se tornado um grande diferencial para as instituições, que se beneficiam tanto com a melhora da experiencia como com a eficiência dos custos envolvidos em tratamentos especializados como os crônicos, os especiais ou domiciliares.

Nesse contexto, a digitalização aliada à migração em nuvem para ambientes com novos recursos e tecnologia inovadora atua como agente transformador do relacionamento que, consequentemente, impulsiona as operadoras para novos patamares de liderança e excelência.

Segurança e tecnologia para superação dos desafios da transformação

Com o avanço da qualidade da experiência do cliente por meio da comunicação eficiente e canais digitais mais ágeis e personalizados, surgem novos pontos de atenção, pois a digitalização intensa amplia os riscos cibernéticos, tornando a proteção de dados sensíveis uma prioridade crítica, especialmente diante do aumento de ataques e da necessidade de conformidade com legislações como a LGPD. 

Foi constatado que entre as indústrias globais, a área da saúde sofre os maiores custos de violação de dados, com uma média de USD 10,93 milhões por violação, correspondendo a quase o dobro do setor financeiro. Segundo o estudo da ��ѻ��ý, o gerenciamento de riscos de fornecedores terceirizados é uma preocupação crítica de saúde apontada por 60% das organizações de saúde dos EUA. 

Para a atender à crescente complexidade desse contexto, a arquitetura baseada em nuvem também endereça essa necessidade com recursos avançados para mitigar riscos de violação de dados, oferecendo um ambiente mais seguro do que os sistemas locais tradicionais.

Além disso, modelos de “confiança zero” que verificam as identidades dos usuários em cada ponto de acesso, criptografia avançada, auditorias contínuas e o oferecimento de treinamentos constantes de capacitação em proteção de dados são muito necessárias para compor uma base sólida e segura para a operação digital. 

Considerando ainda as crescentes exigências legislativa e de governança, as avaliações de risco e auditorias de segurança constantes também são essenciais para garantir a padrões regulatórios como a LGPD (no Brasil) e a GDPR (Europa), bem como outras normativas locais, que estão cada vez mais rigorosas e impactam diretamente a sustentabilidade do negócio.

Contar com um conjunto de ferramentas tecnológicas necessárias para superar os crescentes desafios e grande foco na identificação das oportunidades emergentes, a transformação digital no setor de seguro saúde, impulsionada pela inovação, representa um caminho fundamental para a evolução dos processos de forma gradual, confiável e sustentável.

Ao adotarem tecnologias inteligentes e práticas inovadoras, as operadoras estarão não apenas aptas a transformar a experiência de seus clientes de forma surpreendente, mas também a ampliar sua participação de mercado, maximizar a eficiência operacional e fortalecer sua gestão de riscos, garantindo assim uma adaptação contínua às demandas de um mercado cada vez mais dinâmico. 

Com o avanço da capacidade computacional e do acesso a grandes volumes de dados, surgiram modelos preditivos mais sofisticados, como machine learning e chatbots capazes de interpretar a linguagem natural. No entanto, essas soluções ainda dependiam muito de interações humanas e não possuíam plena autonomia na tomada de decisões. 

Agora, na terceira fase da IA, os agentes autônomos não apenas atendem a comandos, como atuam de maneira proativa, aprendem continuamente com dados em tempo real e tomam decisões estratégicas sem a necessidade de intervenções ou comandos. 

Essa transformação já remodela o mercado, respondendo a desafios como a crescente complexidade operacional, a necessidade de integrar sistemas fragmentados e a crescente expectativa dos consumidores por interações personalizadas e mais ágeis através de múltiplos canais.  

De acordo com o estudo What Matters to Today’s Consumer 2025, do ��ѻ��ý Research Institute, 75% dos clientes esperam que suas necessidades sejam antecipadas e não apenas respondidas. Ao mesmo tempo, apenas 35% das empresas conseguem integrar novas tecnologias sem comprometer sistemas legados, segundo o relatório The Consumer of Next Gen Data Infrastructures is… AI. 

Para superar essas barreiras, os agentes autônomos atuam como maestros inteligentes, orquestrando a conexão entre CRM, ERP, Data Cloud e outras plataformas de forma eficiente e contínua. Eles antecipam necessidades, executam tarefas complexas e operam 24/7, garantindo suporte ininterrupto e maior produtividade, além do potencial enorme de escalabilidade acompanhando o crescimento dos seus negócios. 

O que são Agentes Autônomos e por que eles representam uma revolução?

Mais do que chatbots ou assistentes virtuais aprimorados, os agentes autônomos são o próximo passo na cadeia evolutiva da inteligência artificial, combinando IA Generativa, automação de processos e análise preditiva para atuar estrategicamente em diferentes setores. 

Contrastando com as soluções convencionais de IA, que apenas respondem a tarefas pré-programadas, eles operam com independência e proatividade para identificar padrões, prever necessidades e executar ações sem intervenção humana.  

Isso significa que agentes autônomos não apenas processam informações, mas aprendem continuamente, adaptam-se ao contexto e tomam decisões com base em dados em tempo real. É o que chamamos também de IA Agêntica — a 3ª dimensão da IA —, que age, entende e entrega valor real para os negócios.

Além dessas características, os agentes autônomos são projetados para lidar com tarefas complexas e multifuncionais, assumindo responsabilidades que antes exigiam múltiplos sistemas ou intervenção humana.  

Na indústria financeira, por exemplo, eles podem analisar transações em tempo real, identificar padrões de risco e tomar decisões sobre concessão de crédito ou prevenção de fraudes. Já no setor varejista, podem gerenciar estoques dinâmicos, prevendo tendências de demanda e otimizando a logística de abastecimento. 

A IA Agêntica não apenas melhora a eficiência operacional, como também eleva exponencialmente os patamares da experiência do cliente e a maneira como as empresas conduzem suas operações. Os agentes autônomos são, portanto, um marco na transformação digital, permitindo que negócios evoluam para um modelo mais ágil, responsivo e orientado a dados.

Agentforce: a inteligência autônoma da Salesforce

Com seu firme propósito de liderar a inovação no mercado de CRM, nossa parceira de longa data, a Salesforce, lançou o Agentforce, uma plataforma inovadora para criação e operação de agentes autônomos que transforma a maneira como empresas operam e interagem com clientes.  

Projetado para atuar em diversos setores, o Agentforce combina IA generativa, automação de processos e ações autônomas, permitindo que empresas reduzam custos operacionais e aprimorem a experiência do cliente. 

Sua integração com o Data Cloud amplia significativamente a capacidade analítica da solução, garantindo recomendações mais precisas e tomadas de decisão inteligentes em tempo real.

Com isso, organizações podem personalizar interações, otimizar processos e escalar operações com agentes autônomos que aprendem continuamente e se adaptam a diferentes cenários de negócios.

Diferenciais do AgentForce 

• Automação avançada: elimina tarefas manuais repetitivas e acelera fluxos de trabalho, permitindo que equipes se concentrem em atividades estratégicas de maior valor.��
• Personalização inteligente: utiliza dados comportamentais e insights preditivos para oferecer recomendações altamente personalizadas, aumentando conversão e engajamento do cliente.��
• Eficiência operacional: reduz o tempo de resposta em atendimentos e processos internos, garantindo maior produtividade e consistência na entrega de serviços.��
• Integração nativa com o ecossistema Salesforce: funciona de forma unificada com CRM, Marketing Cloud, Service Cloud e Data Cloud, garantindo um fluxo contínuo de informações e insights estratégicos.��
• Adaptação a múltiplas indústrias: pode ser aplicado em setores como serviços financeiros, varejo, automotivo e saúde, resolvendo desafios específicos de cada segmento e potencializando resultados.��

Com essa abordagem inovadora, o Agentforce se destaca como uma das soluções mais completas para empresas que desejam aproveitar todo o potencial dos agentes autônomos e acelerar sua transformação digital.

Como a ��ѻ��ý pode potencializar seus resultados ao adotar o Agentforce 

A ��ѻ��ý não apenas implementa o Agentforce, mas garante que sua adoção esteja alinhada aos objetivos estratégicos do seu negócio e aos desafios específicos do seu mercado. 

Com expertise consolidada em CRM, inteligência artificial, análise de dados e automação de processos, a ��ѻ��ý impulsiona a inovação ao integrar agentes autônomos a ecossistemas complexos, potencializando a eficiência operacional e a personalização da experiência do cliente. 

Com essa abordagem, a ��ѻ��ý se posiciona como o parceiro ideal para empresas que buscam extrair o máximo valor dos agentes autônomos, acelerando sua jornada de transformação digital com soluções inteligentes e escaláveis. 

��DzԳ����ܲ�ã�� – O futuro da automação com IA Agêntica 

Os agentes autônomos representam a próxima grande transformação da inteligência artificial, promovendo uma revolução na forma como empresas operam e interagem com clientes. 

A ��ѻ��ý, como líder global em tecnologia e serviços digitais, está na vanguarda dessa revolução, ajudando organizações a desbloquear todo o potencial do Agentforce e das soluções baseadas em IA. 

Combinando expertise tecnológica, práticas especializadas e parcerias estratégicas, a ��ѻ��ý permite que seus clientes transformem desafios em oportunidades, garantindo que a IA Agêntica impulsione a inovação e a eficiência operacional.

O futuro da agentificação está aqui. Isso é IA Agêntica – e a ��ѻ��ý está pronta para guiá-lo nessa jornada.

O evento reuniu cerca de 41 mil participantes, 650 palestrantes e 600 expositores. Profissionais, especialistas, acadêmicos e fornecedores estiveram reunidos ao longo de uma semana para compartilhar conhecimentos, conhecer as ameaças e as tecnologias mais recentes, discutir preocupações atuais e futuras e, claro, fazer networking. Saímos todos com a sensação de deixar o evento mais fortalecidos enquanto comunidade de Cybersecurity para enfrentar os desafios!

Por isso, gostaria de aproveitar e compartilhar alguns insights interessantes.

Vivemos um momento no qual as ameaças cibernéticas já não estão apenas nas histórias de ficção científica. Quem nos lembrou disso foi o ator Matthew Broderick, que fez a abertura do RSA recordando seu papel no filme War Games, de 1983, em que interpretou um gênio da tecnologia que quase gerou a Terceira Guerra Mundial. O filme acabou inspirando a política de segurança dos EUA.

Aliás, o Secretário de Estado dos EUA, Antony Blinken, também esteve na conferência e falou justamente da importância que a segurança cibernética ganha à medida que o mundo digital e físico estão cada vez mais interconectados. Nossos carros, portos, hospitais etc., são grandes máquinas de armazenamento de dados e de computação vulneráveis a ataques cibernéticos.

Os riscos com a segurança nacional e a prosperidade econômica são elevados e, colocam, inclusive, os valores democráticos em jogo. Assim, a cybersecurity tem um papel chave na estabilidade da sociedade, da economia e da democracia.

Nesse sentido, algumas tecnologias são estratégicas para os EUA, como biotecnologia, chips, tecnologias verdes e Inteligência Artificial.

Impactos da Inteligência Artificial

Por falar em IA, este foi um dos tópicos mais discutidos durante a conferência deste ano, em diferentes aspectos: a próxima evolução da IA, questões éticas, barreiras de proteção, segurança e privacidade.

Definitivamente, a IA saiu um nicho e agora ocupa todos os espaços. Por isso, cada vez mais, precisamos conhecer os benefícios, mas também os riscos trazidos por esta tecnologia. Com a IA Generativa, por exemplo, os riscos cibernéticos se tornaram exponenciais.

Portanto, não são poucos os desafios na área de segurança cibernética, uma vez que a IA pode ser usada para ataques ou para explorar as vulnerabilidades dos sistemas.  Aliás, um estudo do próprio ��ѻ��ý Research Institute (“Inteligência Artificial em Cybersecurity: não é um dilema ético”, em tradução livre), já apontou como os cibercriminosos usam cada vez mais a IA para projetar suas capacidades ofensivas.

Outra apresentação interessante nesse sentido foi a de Bruce Schneider, especialista em security e professor da Harvard Kennedy School, que destacou o impacto da IA na democracia. A maneira como votamos, como os deputados fazem leis, como os políticos escrevem seus discursos, como advogados fazem suas defesas. A IA poderia nos substituir em tudo isso!

Além disso, um painel com especialistas em direito apontou os impactos de deepfakes no processo penal, como, por exemplo, o risco de que vídeos falsos possam ser usados como provas de crimes.

Direitos à privacidade em expansão

Na apresentação do Gartner sobre tendências de cybersecurity um dado impressionante: em 2024, sim, neste ano, o mundo terá mais gente com direitos de privacidade do que com acesso à água potável!

Não é à toa que uma das tendências é o crescimento das regulamentações de privacy em todo o mundo. Entretanto, menos de 10% das empresas usam a privacidade de forma estratégica como diferencial de negócios. Aqui pode estar uma oportunidade para as organizações.

Fator humano e Burnout

Embora o mercado de cibersegurança esteja em expansão e ofereça oportunidades profissionais atrativas, hoje temos um gap de mão de obra qualificada e especializada na área.

Um dos painéis do RSA apontou que hoje há 3,5 milhões de vagas abertas em cyber no mundo. A chamada skill shortage, ou escassez de competências, é uma questão global.

A saúde mental dos profissionais de cybersecurity foi outro tema presente em diferentes momentos do evento.

Hugh Thompson, presidente executivo do RSA Conference, destacou que os casos de burnout em profissionais de cyber dispararam na pandemia da covid-19, mas que depois foi possível ver uma diminuição desse quadro.

Entretanto, agora o burnout volta a subir devido, principalmente, a questões relacionadas a liability e reports (ou seja, conformidade) que crescem muito em paralelo ao aumento das ameaças e riscos.

Como resolver isso? Um caminho possível seria a comunidade cyber unir forças e compartilhar experiências e conhecimentos.

Outros temas que valem destaque

Em um oceano de conteúdo, é muito difícil pinçar alguns temas para dar destaque. Por isso não poderia deixar de mencionar ainda:

• Segurança em Automação Industrial, a qual esteve presente com algumas sessões onde se discutiram diversos enfoques do tema, mas talvez e em especial a necessidade da Gestão de Riscos de Terceiros e da Cadeia de Suprimentos dentro do contexto de TA (Tecnologia de Automação)
• Segurança na Computação Quântica, tema o qual já se desenvolve com maturidade crescente não apenas do lado de entendimento dos riscos que traz aos negócios como soluções – incluindo os novos algoritmos Quantum Safe a serem publicados pelo NIST em 2024 e a necessidade de adequação das organizações para uma postura Crypto Agile.
• Segurança para o Terceiro Setor: em alguns painéis discutiu-se como a comunidade de Cybersecurity pode se unir para apoiar organizações do Terceiro Setor ou mesmo outras de alto impacto nas comunidades onde atuam, mas com orçamentos modestos de Cybersecurity – tais como pequenos hospitais e empresas locais de distribuição de energia ou água, etc. Em um destes painéis, os nossos parceiros do Cyberpeace Institute participaram divulgando seu trabalho ao lado de outras organizações.
• E por último, vale destacar a ênfase para os controles mais básicos de segurança. Muitas vezes a eficácia em tratar controles básicos já traz um grande impacto positivo na prevenção de incidentes, por exemplo: identificar e tratar vulnerabilidades, assegurar que os usuários – comuns e privilegiados – usem senhas adequadas, conscientizar e treinar usuários, etc. Neste tema, atenção em especial às arquiteturas de segurança muito complexas e os desafios que trazem para sua configuração e manutenção ao longo do tempo.

��DzԳ����ܲ�ã��

Observamos na RSA que muitos dos desafios que enfrentamos no Brasil são comuns a comunidade de Cybersecurity no mundo todo. Por isso, esses insights e reflexões permeiam o atual debate da área de cibersegurança não apenas lá fora, mas aqui no Brasil também.

Mesmo com todo aprendizado nas sessões em que estivemos presentes, também ficou evidente como nós na ��ѻ��ý temos podido desenvolver soluções de ponta para estes desafios, e apoiar nossos clientes adequadamente. Seja trazer soluções para aumentar a maturidade e eficácia dos controles mais básicos, até identificar e tratar novos riscos como aqueles relativos à IA Generativa ou Computação Quântica.

Desta forma, deixamos o evento ainda maiores do que quando chegamos. E saímos ansiosos para encontrar novamente amigos, clientes e parceiros na RSAC 2025.

Com mais de 50 anos de experiência, a ��ѻ��ý utiliza a tecnologia como base para possibilitar a transformação dos negócios, trabalhando com um ecossistema de parceiros bastante diverso, integrado e aderente às dores de seus clientes.

A seleção de um parceiro estratégico é de extrema responsabilidade. Temos um cuidado especial em avaliar uma série de fatores, como, aspectos técnicos, imagem, confiança da marca, engajamento executivo, alinhamento dos pilares éticos e da forma de trabalho. 

Fazemos o acompanhamento das atualizações tecnológicas, e estamos sempre atentos às questões de segurança e funcionalidades das soluções. Tudo isso é necessário para honrar nossas entregas durante a jornada completa de um projeto, que muitas vezes é longa, se estendendo por meses ou anos. 

A parceria entre a ��ѻ��ý e a é um exemplo de colaboração estratégica que visa transformar os tradicionais centros de contato em hubs de experiência, aproveitando o poder do Genesys Cloud, inteligência artificial (IA), dados e jornadas de cliente sem atritos. Essa aliança também se baseia no profundo conhecimento da ��ѻ��ý em diversos setores verticais, contribuindo para gerar valor para nossos clientes em comum.

A ��ѻ��ý e a Genesys já são parceiras globais, o que demonstra o compromisso mútuo em fornecer soluções inovadoras e eficientes para os clientes em todo o mundo. Possuímos foco na Experiência do Cliente (CX), onde a colaboração entre essas duas empresas concentra-se na melhoria da experiência do cliente. Isso envolve a otimização dos processos de atendimento, a personalização das interações e a criação de jornadas fluidas e eficazes.

Adicionalmente a isso, com a crescente adoção de soluções em nuvem, a ��ѻ��ý e a Genesys estão alinhadas para apoiar a estratégia de CX e transformação centrada no cliente em ambientes de nuvem. Isso permite maior flexibilidade, escalabilidade e agilidade para atender às necessidades dos clientes.

Possuímos um modo de trabalho alinhado, onde a parceria é baseada em princípios compartilhados, como abertura, transparência e foco no sucesso do cliente. Ambas as empresas trabalham em conjunto para melhorar projetos e ajustar a rota conforme necessário.

No Brasil, a ��ѻ��ý e a Genesys estão reforçando sua aliança com entusiasmo, com um plano de crescimento ao longo de 2024. Isso significa que estão comprometidas em expandir sua colaboração e oferecer soluções ainda mais impactantes para os clientes brasileiros, trabalhando juntas para moldar o futuro das interações entre empresas e clientes, tornando-as mais eficientes, personalizadas e satisfatórias.

A parceria estratégica entre a ��ѻ��ý e a Genesys é notável por sua capacidade de oferecer soluções inovadoras e eficientes para o mercado. A Genesys, com sua plataforma de atendimento, integra-se perfeitamente ao ecossistema de parceiros estratégicos da ��ѻ��ý, incluindo SAP, Salesforce, ServiceNow e AWS. 

Com recursos de Inteligência Artificial nativa, a solução Genesys oferece omnicanalidade, reunindo todos os pontos de contato em uma única ferramenta. Isso permite atender jornadas mais personalizadas e complexas, simplificando a comunicação com os clientes. Os ganhos são expressivos, especialmente na redução do tempo de atendimento de chamados.

Em um momento de transformação digital, em que o atendimento evolui de serviços básicos para relacionamentos personalizados, a parceria entre ��ѻ��ý e Genesys se destaca. Com novos modelos de negócios e tecnologia acessível, o atendimento tornou-se parte fundamental da estratégia de experiência do cliente (CX). A ��ѻ��ý e a Genesys estão preparadas para desenvolver soluções robustas e escaláveis, alavancando a Inteligência Artificial e otimizando investimentos em pessoas, processos, tecnologia e dados.

Com casos de uso bem-sucedidos no mercado nacional e um roadmap promissor, convidamos você a explorar mais sobre a e conversar com nossa equipe. Juntos, podemos desenhar uma estratégia que agregue ainda mais valor à sua empresa.

Em um curto espaço de tempo, a Inteligência Artificial Generativa conquistou o usuário final e empresas ávidas por experimentar esta tecnologia disruptiva. Agora, o hype da Gen AI passou e a conversa ficou mais séria. As organizações querem saber como a tecnologia pode agregar valor e levar os negócios a um patamar mais alto. 

Mas como unificar camadas de dados, modelos de negócios e pessoas com Gen AI? 

Recentemente, participamos do Gartner Data & Analytics Conference 2024, realizado em São Paulo em março, e, como não poderia ser diferente, a Gen AI esteve no centro do debate. Os dados do Gartner e a experiência da ��ѻ��ý em projetos de IA Generativa em todo o mundo permite traçar um cenário atual, além de apontar desafios e caminhos possíveis. 

Uma pesquisa do Gartner com CEOs, por exemplo, mostra que 75% já testaram a tecnologia e ⁠64% acreditam que Gen AI não é hype. A maioria (⁠62%) discute esse tema junto ao board.

Em março de 2023, 45% das empresas apontaram aumento de investimento em Gen AI. Neste ano, o número pulou para 66%, um crescimento bastante significativo. 

Outro levantamento do Gartner indica que 64% das organizações estão investindo em Gen AI em duas ou mais áreas de negócio. É curioso notar que apenas 31% do investimento é direcionado para TI (desenvolvimento, infraestrutura, operações, etc.). O restante está voltado para outras áreas, como marketing, vendas e customer service, além do backoffice (jurídico, recursos humanos e financeiro).

Colocando uma lupa nos casos de uso, vemos que os principais investimentos são para: otimização de custos (23%), experiência e retenção do cliente (20%) e iniciativas de crescimento de base (18%). 

Tudo isso nos leva a crer que o momento de Gen AI é agora. Depois da fase de experimentação, 2024 será o ano de execução e captura de resultados, com destaque para modelos multimodais (ou seja, de texto para vídeo, de imagem para vídeo, etc.). Por isso, vale o mindset: pense grande, comece pequeno, escale rápido. 

No entanto, o custo é uma das maiores ameaças ao sucesso da IA Generativa. Mais de metade das organizações estão abandonando os seus projetos devido a erros na estimativa e cálculo de custos na fase de design de projeto, segundo o Gartner. 

Outro desafio é otimizar a relação entre dados e Gen AI com o chamado “AI ready data”, que tem três pilares segundo o Gartner: governança de D&A, gestão de metadados e data observability. Nesse sentido, uma das orientações para as lideranças de D&A é estabelecer sua ambição em IA, além de revitalizar e estender a governança de dados para uma governança de IA. 

Trabalho em equipe. 

A Gen AI também está mudando as interações no ambiente de trabalho. Nesse sentido, outro fator crítico para escalar projetos de Gen AI é a integração dos times de negócio e de tecnologia. É preciso trabalhar juntos e, nesse sentido, a gestão da mudança passa a ser imprescindível.

O time de negócio precisa demonstrar valor e benefícios da Gen AI para direcionar vantagem competitiva e chegar aos resultados de negócios com ROI. Já a equipe de tecnologia precisa lidar rapidamente com as grandes evoluções, gerenciar custos e riscos.

Além disso, também consideramos que a velocidade de iteração e o aprendizado são mais importantes do que a tecnologia em si quando se fala em projetos de IA Generativa. Este é o momento de aprender e ganhar maturidade antes de pensar nas ferramentas ou como encontrar o melhor prompt. 

Empoderamento criativo.

A demanda por dados é enorme e a cultura de inovação é um elemento de transformação digital bem-sucedido nas organizações. Unindo esses dois aspectos podemos ter um verdadeiro empoderamento criativo a favor da Gen AI. 

Dados é uma disciplina totalmente relacionada ao business e tem a tecnologia como habilitador. Por isso, a área de negócios precisa entender as possibilidades da tecnologia, ou seja, o que pode fazer ou não com a IA Generativa, por exemplo. Para isso, é necessário que as organizações invistam em programas de alfabetização e trilhas de conhecimento específicas de GenIA, porque isso permitirá que as áreas de negócios tragam novas ideias e deem o start nas provas de conceitos. 

Portanto, empoderar as áreas de negócios, fazer competições internas e reservar um tempo para a criatividade são elementos essenciais para escalar a IA Generativa.

Já a governança em D&A para Gen AI é específica e, para evoluir rápido, é preciso experimentar. Apesar dos orçamentos restritos, esses projetos precisam acontecer, mas sem perder de vista uma proposta de geração de valor para o negócio. Isso é essencial!

Uma das dicas para as equipes de D&A é migrar de uma mentalidade orientada a processo para um mindset orientado a produto, que considera métricas, teste de feature e teste AB, por exemplo. Assim como qualquer demanda analítica, é preciso trazer os elementos da gestão do produto para ser bem-sucedido nessa jornada de Gen AI.

Passo a passo

A IA Generativa apresenta um enorme potencial para impulsionar a inovação e a mudança da forma de trabalho nas empresas. No entanto, escalar essa tecnologia para gerar impacto real requer uma abordagem estratégica e cuidadosa. 

Os passos essenciais são:

1. Conexão e mapeamento de casos de uso: comece a jornada identificando os desafios específicos de cada área de negócio.  Não deixe de avaliar prontidão cultural para experimentação e inovação, além de disponibilidade de dados e aspectos de segurança (privacidade) antes de ingerir dados em qualquer LLM. 

2. Pitfall de custos: processamentos excessivos de APIs podem gerar custos exorbitantes. Por isso, otimização e dimensionamento são cruciais para a viabilidade econômica. Soluções de automação, monitoramento e um, data mapping assertivo são fatores de sucesso. Projetos e iniciativas devem ser priorizados com base em seu potencial de retorno e impacto.

3. Letramento na tecnologia: é preciso investir em treinamento e capacitação em Gen AI para colaboradores, pois muitas funções serão transformadas no curto prazo, promovendo uma nova revolução no mercado de trabalho. É essencial abraçar a cultura de experimentação e inovação, reservando orçamentos específicos para este tipo de iniciativa, criando uma governança corporativa e capacitando a força de trabalho neste método.

A Gen AI pode transformar as empresas, mas exige planejamento, investimento e expertise. Ao superar os desafios e aproveitar as oportunidades, as empresas podem desbloquear novos níveis de criatividade, produtividade e competitividade.

É importante lembrar que Gen AI é uma ferramenta poderosa, mas não uma solução mágica. O sucesso de adoção da tecnologia dependerá da compreensão das necessidades do negócio e da correta adoção na organização, o que requer gestão da mudança e monitoramento constante de métricas de sucesso e custos.

Além deste tema, elaboramos outras reflexões a partir da nossa participação no Gartner Data & Analytics Conference 2024. Acompanhe também os conteúdos sobre tendências em D&A, democratização de dados, além de governança e qualidade de dados para apoiar os negócios.

“Em projetos de Gen AI, a área de D&A precisa sair de uma mentalidade orientada a processos para um mindset orientado a produto”. Bernardo Caldeira, Head of Business Advisory da ��ѻ��ý Brasil 

“Times de negócios e tecnologia precisam se integrar para os projetos de Gen AI e, nesse sentido, a gestão da mudança passa a ser imprescindível”. Caue Moresi, Head of Data & AI Operations da ��ѻ��ý Brasil

Em abril de 2023, uma gigante asiática de tecnologia vivenciou um incidente de segurança envolvendo o uso do ChatGPT, uma das ferramentas de inteligência artificial generativa mais conhecidas. Funcionários da empresa utilizaram o ChatGPT para lidar com informações confidenciais: em um caso foi fornecido ao prompt um código-fonte contendo propriedade intelectual e sigilo industrial para obter versões otimizadas dele; em outro, foi fornecida a transcrição de uma reunião para obter uma ata. Em ambos os casos, o resultado final foi o vazamento de informações confidenciais de negócio, relacionados a segurança cibernética em IA.

De lá para cá, surgiram e se popularizaram várias outras plataformas de IA Generativa e rapidamente vemos os negócios se utilizarem destas para oferecer soluções inovadoras que melhoram a experiência de seus clientes, em alta escala e com baixo custo.

Aplicações que interagem com estas plataformas em diferentes Casos de Uso se multiplicam por aí, desde assistentes que transformam uma FAQ enfadonha em uma conversa animada até sommelier que ajuda a escolher um vinho no supermercado.

Inclusive, em nosso relatório mais recente, desenvolvido pelo , Why consumers love generative AI (Porque os consumidores adoram a IA generativa), exploramos o potencial da IA generativa, bem como sua recepção pelos consumidores e suas esperanças em relação a ela.

No entanto, como se sabe, junto com a massificação do uso de qualquer nova tecnologia, os riscos do ponto de vista de segurança cibernética precisam ser conhecidos e gerenciados. Desta forma, as soluções podem nascer, serem mantidas e utilizadas sem ameaçar o negócio em si – mitigando riscos regulatórios, legais, reputacionais, econômicos ou quaisquer outros.

Recomendações para uma jornada tranquila na segurança cibernética em IA

Especificamente sobre os aspectos de segurança cibernética aplicáveis a estas soluções que interagem com plataformas de IA Generativa, compilamos a seguinte lista de recomendações que consideramos essenciais para uma jornada segura:

1. Estabelecer políticas claras de uso: Trata de definir regras para o uso de ferramentas IA Generativa, incluindo responsabilidades dos usuários. Algumas organizações seguiram pelo caminho de proibir o uso destas ferramentas, o que pode causar impactos em inovação e competitividade, e ainda estimular o uso clandestino. Outras, liberam o uso das plataformas sem quaisquer regras, trazendo obviamente riscos de vazamento de informações (entre outros). Nos parece que o caminho feliz neste caso é permitir o uso disciplinado, por isso a importância de estabelecer e comunicar (treinar) as políticas de uso.

2. Implementar a classificação de informações: Definir as políticas, e implementar processos e controles para ter um sistema de classificação de informações eficaz. A partir deste, realizar uma varredura de dados (Data Discovery), marcar (Data Tagging) e mascarar (Data Masking) os dados enviados ao prompt de IA GenerativaVocê provavelmente não gostaria que Dados Pessoais de seus clientes fossem compartilhados com alguma plataforma de IA Generativo e correr o risco de que haja vazamentos; portanto controlar (varrer, classificar e mascarar) os dados enviados ao prompt de IA Generativo é essencial. Notar ainda que a maioria das plataformas de IA Generativa estão fora do País, o que pode ter implicações regulatórias (ex Banco Central) ou legais (ex LGPD).

3. Conscientizar usuários e desenvolvedores: Os usuários das plataformas de IA Generativo precisam entender os riscos associados a utilização destas e sua implicância na segurança cibernética. O caso de vazamento de dados que abre este artigo é muito sobre isso – falha no processo de conscientizar sobre os riscos e treinar no que pode ser feito e o que não pode ser feito. Além dos usuários, os desenvolvedores que constroem aplicações que acionam IA Generativa via API precisam serem igualmente considerados nestes treinamentos. Como sempre, faz-se necessário reforçar a cultura de segurança da empresa incentivando que todos os colaboradores se sintam responsáveis pela proteção dos dados da mesma.

4. Gerenciar identidades e acesso: Uma vez que os dados estejam mapeados e classificados, o seu acesso precisa ser controlado tanto para consultas quanto (e talvez, principalmente) para alterações. Bases de Dados que estejam integradas com a IA Generativa via aplicações e APIs, que apresentem fragilidades em controles de acesso podem não apenas permitir o vazamento de informações quanto o “envenenamento” com dados falsos alterados de forma não autorizada por atacantes. Estabelecer os perfis de usuário, conceder acessos em regime de mínimo acesso necessário e fortalecer processos de autenticação (com uso de múltiplos fatores de autenticação, por exemplo) são exemplos de algumas ações recomendadas neste ponto.

5. Gerenciar a segurança da infraestrutura: Suportando qualquer aplicação sempre teremos lá, as máquinas físicas, virtuais, sistemas operacionais, elementos de rede e de segurança. Seja em soluções dentro de casa (on premises) ou em nuvem, estes elementos estarão lá. Faz-se necessário desenhar e implementar arquiteturas seguras, com base em Arquiteturas de Referência provadas, melhores práticas e recomendações dos fabricantes. E gerenciar e monitorar estes ambientes com processos e ferramentas que sejam compatíveis com o grau de dificuldade do desafio – as ameaças estão rondando os negócios em regime 24×7, portanto controles de segurança adequados ao risco do seu negócio precisam ser adotados: gestão de vulnerabilidades, monitoração, detecção e resposta a incidentes, Inteligência de Ameaças, Testes de Intrusão periódicos, gestão de logs são alguns dos exemplos de controles para este ponto.

6. Gerenciar a segurança da aplicação (e APIs): Um dos temas mais relevantes, infelizmente ainda muito negligenciado. A gestão de segurança nas aplicações e APIs deve fazer parte de todo o processo de desenvolvimento, como se prega em disciplinas como Security & Privacy by Design: entender a classificação dos dados tratados pela aplicação, pessoais ou não, e os riscos associados; e definir controles adequados para mitigação destes riscos. Realizar a codificação segundo melhores práticas de desenvolvimento seguro. Realizar testes no código-fonte (Teste Estático de Segurança – SAST) e binário (Teste Dinâmico de Segurança- DAST). Avaliar os riscos dos componentes de terceiros, como, por exemplo, bibliotecas. Estabelecer Gestão de vulnerabilidades e Testes de Intrusão na camada de aplicação e API. Ainda considerar: desenhar a solução observando os requisitos de controle de acesso, de conformidade e legais, criptografia dos dados, trilhas de auditoria, disponibilidade da aplicação, autenticação, etc.

7. Estabelecer uma Governança de IA Generativa: A “Shadow AI” está aí na sua empresa neste momento, quer você tenha ciência ou não disso. Para combatê-la, faz-se necessário passar por vários dos pontos anteriores – incluindo definição de política de uso, treinamento e conscientização, etc. Mas o negócio precisa posicionar-se sobre quais soluções podem ser usadas, e como. Por isso estamos falando de estabelecer uma governança sobre o mundo das plataformas de IA Generativa, e por consequência dos dados e controles de segurança associados a elas. A governança é a mãe de toda e qualquer outra recomendação.

��DzԳ����ܲ�ã��

Um último pensamento importante para compartilhar é sobre a utilização do Princípio de Guardrails nos projetos de IA Generativa. A sua ideia é estabelecer limites e restrições para evitar erros e comportamentos indesejáveis da plataforma, assegurando que o sistema como um todo trabalhe sem “sair da pista”, protegendo-o de falhas de segurança e aumentando a sua confiabilidade. Assim, mais do que impedir que alguma coisa seja feita, o enfoque torna-se para quais os limites a serem estabelecidos e como podem ser aplicados efetivamente.

Por fim, como já fizemos no passado, concluímos dizendo que este artigo foi escrito com ajuda do ChatGPT e do Gemini. Assim reforçamos que a mensagem de que a IA Generativa é uma ferramenta poderosa e útil em vários contextos diferentes e pode se tornar uma grande aliada dos negócios, desde que observadas as questões de segurança. Seguindo as recomendações acima, seu negócio pode criar soluções inovadores para seus clientes aproveitando ao máximo os benefícios trazidos pela IA Generativa, enquanto mitiga os riscos de segurança cibernética associados ao seu uso