Episódio 3

Aplicações práticas (parte 2), riscos de alucinação e ferramentas

Duração do vídeo:14:19 min
Tempo de leitura: 16:00 min
Formatos:
texto e vídeo
Por: :Equipe Noa - Doctoralia

Nesse último episódio, vamos dar continuidade a casos de uso práticos da IA para nos consultórios. Você aprenderá mais sobre alucinações de IA, o que são e como evitá-las, e verá como as ferramentas de IA da Doctoralia funcionam em cenários da vida real.

Caso 4: IA para resumir estudos médicos

Vale a pena ler um estudo médico completo? Em alguns casos, sim; em outros, você pode precisar apenas de um resumo. Em ambos os casos, as ferramentas de IA podem ajudar a transformar artigos de pesquisa, diretrizes clínicas ou históricos complexos de pacientes em resumos concisos. Com isso em mãos, você decide como se aprofundar.

👉 Exemplo: Vamos imaginar um médico que precisa gerar um resumo de estudos médicos densos, focando apenas nas ideias principais e descobertas importantes.
.

✨ "Prompt: "Assuma o papel de um neurologista pesquisando AVC embólico de origem indeterminada (ESUS).
Resuma o texto fornecido seguindo estas instruções:
- Apresente apenas as ideias principais e informações essenciais - não adicione dados externos.
- Descreva com precisão os métodos do estudo, incluindo: participantes, intervenções e coleta de dados.
- Destaque claramente os principais resultados, indicando se foram estatisticamente significativos.
- Use tópicos (bullet points) para organizar o resumo.
- Coloque em negrito todos os termos técnicos e conceitos importantes.

[Cole o texto para ser resumido]

 

Caso 5: IA para preparar relatórios a pacientes

Preparar relatórios para os pacientes leva tempo, certo? Ferramentas de IA também podem te ajudar a formatá-los relatório ou simplificar detalhes complexos.

👉 Ejemplo: vamos explorar um cenário em que você precisa redigir um relatório resumindo o estado do tratamento e os cuidados realizados até o momento.

⚠️ Apenas um aviso importante antes de prosseguirmos: Não inclua nenhum identificador do paciente (por exemplo, nome, informações de contato, RG, etc.)..

✨ "Prompt:  Assuma o papel de um profissional de saúde e, com base no prontuário do paciente, gere um relatório claro e compreensível para o paciente. O relatório deve incluir:
- Um resumo do atendimento realizado até o momento
- A resposta do paciente ao tratamento ao longo do tempo
- Um plano de próximos passos claro e acionável

Estruture o relatório em uma linha do tempo cronológica e use uma linguagem simples e fácil de entender, adequada para compartilhar diretamente com o paciente.
Se houver informações relevantes faltando nas anotações, indique ao médico que as forneça antes de continuar.

[Cole as informações do paciente ]

 

Caso 6: IA para apoiar planos de tratamento

Por fim, você também encontrará ferramentas de IA para fazer um brainstorming sobre opções de tratamento. Nesse caso, recomendamos usar ferramentas de IA especializadas para o setor médico e, mais uma vez: não inclua nenhum dado pessoal ou identificador do paciente.

👉 Exemplo: após analisar os primeiros resultados laboratoriais, o médico ainda não tem certeza de qual é o melhor tratamento. Ele recorre a um assistente de IA para apresentar uma gama de opções possíveis, ampliar seu raciocínio diagnóstico e descobrir o caminho certo para o diagnóstico.  Aqui está um exemplo de como você pode estruturar seu prompt:

Prompt:  Assuma o papel de um profissional de saúde e ajude a gerar uma lista completa de opções de tratamento e estratégias de manejo para uma paciente mulher de 45 anos com os seguintes achados:
Sintomas: fadiga crônica, ganho de peso de 7 kg em 6 meses, alterações de humor (irritabilidade, baixa concentração)
- Exames laboratoriais: [incluir resultados]
- Considerações diagnósticas: hipotireoidismo subclínico, resistência à insulina/prediabetes, deficiência de vitamina D, descartar síndrome de Cushing sutil ou transtornos primários do humor

Pontos a considerar:
- Intervenções farmacológicas e não farmacológicas para cada condição suspeita
- Intervenções de estilo de vida que possam abordar sintomas sobrepostos
- Como priorizar ou combinar esses tratamentos de forma eficaz
- Passos diagnósticos adicionais para confirmar ou descartar as condições antes de finalizar o plano terapêutico

Estas são apenas algumas das maneiras práticas pelas quais a IA pode auxiliar seu trabalho diário. Nosso objetivo com este curso é destacar os conceitos mais importantes e mostrar como começar a usar de forma eficaz.

Mas lembre-se: nada substitui a experiência prática!  Quanto mais você usar, mais eficiente vai ficar.

Mas espera… E se a IA alucina? 🫨🫨🫨

Agora que você tem muitos exemplos de como aplicar a IA no seu dia a dia, gostaríamos de chamar sua atenção para este tópico quente e relevante no mundo da IA: Alucinação da IA.

A alucinação da IA ​​é o processo que pode levar a IA a cometer erros, misturar fatos e ficção e produzir conteúdo que pode ser impreciso ou não alinhado com o mundo real.

Isso normalmente acontece devido a padrões nos dados com os quais eles foram treinados. Se esses dados estiverem incompletos, tendenciosos ou pouco claros, a IA pode “inventar” informações que parecem reais, mas não são.

 

Como identificar e evitar alucinações da IA?

#1 Use a IA como ponto de partida, não como palavra final

A IA é uma ferramenta de apoio poderosa, mas a decisão final deve sempre vir do médico.

Por exemplo: Quando uma ferramenta de IA gera um resumo do histórico do paciente, sempre revise-o cuidadosamente para confirmar se ele corresponde às informações coletadas durante a consulta. Você também pode fazer perguntas complementares, como:

“Você pode mostrar quais partes do resumo vêm diretamente das anotações do paciente?”

#2 No confunda fluência com acurácia

Frases bem elaboradas não significam informações corretas! 

Um dos maiores riscos das alucinações de IA é que elas são convincentes, mas não confunda fluência com precisão.

Às vezes, ferramentas de IA podem retornar resultados desatualizados ou refletir vieses, dependendo de como foram treinadas. Lembre-se de que a maioria dos modelos aprende com conteúdo disponível online, o que pode incluir informações incorretas ou perspectivas distorcidas.

Por exemplo: você está pesquisando os estudos mais recentes sobre esquizofrenia, mas a ferramenta de IA foi treinada apenas com dados até o ano passado e não prioriza fontes científicas.

Sempre que a IA sugerir algo, verifique os fatos: compare a resposta com as diretrizes clínicas (por exemplo, OMS, CDC ou suas autoridades locais); execute a mesma consulta novamente, ajustando os detalhes para testar a consistência; esteja atento a generalizações ou estereótipos, perguntando a si mesmo: 

“Esta resposta pressupõe algo com base na idade, sexo, raça ou localização do paciente?”

#3 No todas as ferramentas de IA são iguais

Muitas plataformas genéricas de IA não são desenvolvidas para a medicina, e isso pode servir como um alerta. 

Digo isso porque as fontes de informação usadas para treinar a IA muitas vezes não foram extraídas apenas de fontes médicas e, além disso, a maneira como dados que você inserir serão tratados nem sempre é a mais apropriada para o setor de saúde.

Imagine que você esteja usando uma ferramenta genérica de IA para resumir anotações clínicas, mas a política de privacidade é vaga. Se você copiar e colar os dados do paciente nela, há um risco de vazamento desses dados, e a plataforma pode usar esse conteúdo para treinar seus modelos públicos ou compartilhá-lo de forma insegura.

Priorize empresas com experiência comprovada em IA para a área da saúde. Entenda como a ferramenta armazena e usa seus dados, principalmente para garantir que informações confidenciais não sejam usadas para treinar modelos públicos ou compartilhadas com terceiros. 

Além disso, lembre-se de que algumas plataformas de IA são desenvolvidas especificamente para a área da saúde e utilizam referências clínicas verificadas. Ferramentas gratuitas como ChatGPT, Gemini ou Perplexity geralmente extraem informações de conteúdo aberto da web, portanto, suas respostas precisam ser analisadas com cuidado redobrado.

#4 Cuidado con as armadilhas de copiar e colar

Muitas plataformas abertas de LLM são treinadas com base em conteúdo online existente, incluindo materiais que podem ser protegidos por direitos autorais. Embora visem gerar resultados originais, sempre há um pequeno risco de cópia não intencional na construção de frases, na estrutura ou mesmo nas ideias.

Por exemplo: você pede à IA um parágrafo sobre como lidar com diabetes. A resposta parece ótima, mas será que se trata de um resumo de diretrizes reais ou de um livro didático sem atribuição? 

Difícil dizer.

Por isso, é melhor sempre revisar bem: evite copiar e colar conteúdo de IA em documentos ou apresentações oficiais sem essa revisão. Reescreva os resultados com suas próprias palavras, especialmente se estiver publicando. Use ferramentas de detecção de plágio (como o Turnitin ou o verificador de plágio do Grammarly) como uma camada extra quando precisar ter certeza de que o resultado não é muito semelhante a um trabalho existente.

 

✨A demonstração que muda tudo: conheça Noa Notes ✨

Para finalizar, reservamos uma das partes mais empolgantes: nos últimos minutos do vídeo, você verá uma demonstração do Noa Notes, nosso assistente com IA criado para simplificar a documentação clínica. Você acompanhará o funcionamento na prática, desde o início da consulta até o resumo estruturado final.

Quer ver o resultado em tempo real? Solicite uma demonstração e faça uma simulação com nossa equipe. Assim, você poderá conferir como as notas clínicas são geradas automaticamente no prontuário do paciente.

Confira você mesmo como o Noa Notes gera os resumos
Simule um atendimento e veja os resultados em segundos
Peça uma demonstração

 

Parabéns! Você chegou ao final

Experimente a IA no seu consultório. Peça uma demonstração das soluções da Doctoralia

Tecnologias pensados para profissionais da saúde