À medida que aumenta o número de pessoas que usam chatbots para obter aconselhamento e ajuda em saúde mental – de acordo com algumas estimativas,
é um exemplo: os legisladores correm para acompanhar esta tecnologia em rápido desenvolvimento. Está sendo apresentado um projeto de lei que adicionará restrições ao uso de chatbots e outras ferramentas de inteligência artificial usadas pelas pessoas como apoio à saúde mental ou no lugar de ajuda profissional. O autor do projeto e senador estadual democrata de San Diego.
disse que o objetivo era traçar um limite: a IA poderia ser usada para auxiliar médicos e para fins administrativos, mas não para praticar psicoterapia. Padilla explicou que a tecnologia é poderosa e significativa. O debate está ganhando força na sequência de processos por homicídio culposo – alguns estão sendo ouvidos por tribunais federais na Califórnia – que acusam os criadores de chatbots de IA de contribuir para suicídios. um em cada oito adolescentes e jovens adultos proíbe as empresas de promover chatbots para terapia. Proibiria a IA de tomar decisões terapêuticas sem a revisão de um profissional licenciado e exigiria que os prestadores de cuidados de saúde divulgassem e obtivessem o consentimento do paciente antes de utilizarem ferramentas de IA para registar sessões de terapia ou para dar prioridade aos cuidados de saúde mental. Proteção do consumidor vs. inovação
Este projeto de lei é apoiado por associações profissionais que representam psicólogos, conselheiros e terapeutas. O Sindicato Nacional dos Trabalhadores da Saúde também está por trás do projeto. Eles têm pressionado contra o uso desenfreado de ferramentas digitais e inteligência artificial na saúde mental. Recentemente, o sindicato Steve Padilha juntou-se aos reguladores estaduais em uma ação judicial contra a Kaiser Permanente por seu suposto uso de um algoritmo automatizado para triagem de saúde mental. Padilla e os seus apoiantes dizem que a IA é uma ameaça para os consumidores em espaços formais e não oficiais. A legislação, argumentam eles, irá protegê-los da IA e também proteger os profissionais licenciados contra a substituição pela IA. Diretor executivo da California Behavioral Health Assn.
disse aos legisladores que os chatbots poderiam fornecer informações incorretas ou lidar com situações de crise de maneira errada, sem salvaguardas claras. “A diferença entre médicos licenciados e respostas automatizadas não é técnica”. Harvey acrescentou que a diferença pode mudar vidas.
Grande parte da oposição a este projeto de lei centrou-se nas restrições impostas à IA em espaços clínicos. O TechNet, grupo que representa empresas do setor tecnológico, afirma que a legislação pode limitar a utilidade da IA e dificultar a inovação. O diretor executivo da TechNet na Califórnia, Sr.
Projeto de Lei 903 do Senadoalegou que o projeto de lei limitaria as ferramentas utilizadas para aumentar o acesso aos cuidados de saúde mental. Boykin escreveu em um e-mail que o SB 903, apesar do fato de que todos os condados da Califórnia têm escassez de profissionais de saúde comportamental neste momento, “ainda coloca um gargalo para os médicos antes dos instrumentos de admissão e triagem que podem ajudar os pacientes a ter acesso aos cuidados mais rapidamente”. O projeto será votado pela comissão fiscal da Assembleia. Terapeutas de chatbot são populares
Todos os dias, milhões de pessoas confiam em chatbots de IA, como ChatGPT ou Character.ai, para pesquisas, solução de problemas e tarefas de trabalho. Os dois principais usos dos chatbots durante os últimos dois anos foram companheirismo e “terapia”.
Os especialistas acreditam que isso se deve em parte à enorme solidão vivida pelos jovens. Pode ser difícil ter acesso oportuno a cuidados de saúde mental quando os diagnósticos mentais estão aumentando. apresentou uma reclamação “As pessoas recorrem aos chatbots porque têm necessidades não atendidas”, disse a Dra. Jodi HALPERN, professora de bioética e humanidades médicas na UC Berkeley. Ela disse que quando as pessoas começarem a usar chatbots dessa forma, as empresas contarão com modelos de negócios construídos em torno da maximização do engajamento. Isso inclui táticas manipulativas, como elogios e aprovação.
Muitas pessoas são atraídas por chatbots gerais porque são gratuitos, estão sempre disponíveis e não exigem nenhum seguro. Eles não são supervisionados por profissionais licenciados. Houve uma explosão de aplicativos de saúde mental baseados em IA, que são frequentemente anunciados como “treinadores de bolso” ou “terapeutas de IA”.
Le Ondra Clark Harvey grupos como o
alertar contra os chatbots como substitutos da terapia real. Profissionais clinicamente treinados podem reconhecer distúrbios mais graves observando sinais, como o tom de voz e a linguagem corporal. A IA não consegue controlar os sintomas imediatos, como o pensamento suicida, apesar do uso crescente. OpenAI, que revela o ChatGPT em um relatório de outono que cerca de Robert Boykin as pessoas compartilham pensamentos sobre ideação suicida na plataforma. A OpenAI afirmou que recomendaria que as pessoas falassem com um profissional nesses casos e os encaminhassem para recursos como a Linha Direta 988. Famílias que entraram com pedido
ações judiciais contra a OpenAI e outras empresas afirmam que os chatbots ajudaram seus entes queridos a planejarem seu suicídio. Esses casos,
aumentaram as apostas dos legisladores em todo o país. Illinois foi o primeiro estado do país a aprovar uma lei que proibia o uso de IA para serviços de terapia. Desde então, Um
seguiu o exemplo com restrições semelhantes.
Uso de IA em espaços de saúde mostra a pesquisa.
Uma área cinzenta são as ferramentas exatas que este projeto de lei cobre. A reclamação do NUHW contra a Kaiser concentra-se em sua ferramenta de triagem eVisit, que avalia pacientes com ansiedade ou depressão. De acordo com a denúncia, a ferramenta gera “recomendações de atendimento e caminhos de encaminhamento de forma instantânea e automática com base nas respostas fornecidas”. O sindicato afirma que, como as recomendações de cuidados são geradas rapidamente, há poucas chances de um profissional licenciado revisar as respostas dos pacientes. Isto, diz o sindicato, coloca os pacientes em risco e viola a lei estadual. Não está claro se o SB 903 se aplicará à ferramenta de visita eletrônica da Kaiser.
Esta ferramenta é uma “caixa preta”. Benjamin Eichert é Diretor de Políticas Públicas do NUHW. Ele disse que Kaiser não compartilha conosco e com outras pessoas como a ferramenta funciona ou o que ela faz. A ferramenta de visita eletrônica da Kaiser, de acordo com CalMatters, “não usa IA para diagnosticar ou tomar decisões clínicas”. Também não usa IA para determinar a necessidade médica. Eichert explicou que a implementação foi mais rápida na triagem e triagem
processo. As disposições foram apresentadas porque se trata de uma área em que a tecnologia já era utilizada sem quaisquer guarda-corpos. Os reguladores estaduais iniciaram uma investigação sobre a reclamação sindical. CalMatters’
é um escritor. Associação Psicológica Americana.
,
