As empresas permitem que a AIGC tenha acesso a documentos internos, muitas vezes com o objetivo de tornar as respostas mais adequadas ao contexto empresarial. No entanto, o mesmo documento pode, por um lado, melhorar a qualidade da geração de conteúdo e, por outro, conter dados pessoais de clientes, segredos comerciais ou informações confidenciais.A implementação da AIGC não pode prescindir da segurança dos dados, uma vez que o valor comercial e os riscos de segurança provêm frequentemente da mesma cadeia de dados.O que importa não é se o modelo consegue gerar conteúdo, mas sim que dados pode utilizar, para quem o gera e para onde os resultados podem ser encaminhados.
Os riscos não se limitam à fase de treino
A segurança dos dados não pode ser reduzida à simples questão de “se os dados são utilizados para treino”. Os conteúdos introduzidos, os dados consultados, os registos de sessões, os registos de execução e os resultados gerados devem todos ser incluídos na gestão. Mesmo que não sejam utilizados para treino, os conteúdos sensíveis podem ainda assim ficar expostos devido a configurações inadequadas em termos de retenção, direitos de acesso ou âmbito de saída.
Um aspeto que é mais facilmente ignorado são os limites das autorizações. O facto de um utilizador ter o direito de fazer perguntas ao sistema não significa que tenha o direito de aceder a todos os dados internos. Se, na fase de pesquisa, não forem aplicadas as restrições de acesso do sistema de negócios, a fase de geração poderá reorganizar informações que estavam originalmente isoladas para formar uma resposta. Por conseguinte, o controlo de autorizações deve ocorrer antes da obtenção dos dados, não podendo depender apenas da filtragem de palavras sensíveis após a geração.
A segurança determina o nível de autorização que pode ser concedido ao sistema
O valor comercial da AIGC requer normalmente o apoio do contexto, mas a integração de mais dados não traz necessariamente melhores resultados, podendo também alargar o âmbito que é necessário proteger. A abordagem razoável consiste em determinar os dados mínimos necessários em função de tarefas específicas: quando for possível utilizar um resumo, não se devem enviar registos completos; quando não forem necessárias informações de identificação, deve-se proceder primeiro à desidentificação. Ao mesmo tempo, a desidentificação não equivale a anonimato absoluto, devendo-se também ter em conta o risco de identificação após a combinação de informações.
A avaliação de implementação deve, em primeiro lugar, responder a algumas questões: se os dados foram autorizados para utilização nesta tarefa, quais as entidades com acesso, onde o conteúdo será processado e armazenado, se os resultados necessitam de revisão e se, em caso de anomalia, é possível rastrear a origem e interromper o acesso. Estas não são verificações adicionais após a entrada em funcionamento, mas sim parte integrante do próprio plano de integração.
Não basta apenas enfatizar a “não divulgação”. Os dados que tenham sido adulterados ou que contenham instruções enganosas também podem afetar os resultados gerados; por isso, a origem, a integridade e a fiabilidade dos dados também precisam de ser geridas. Uma AIGC verdadeiramente utilizável não consiste em aceder sem restrições ao conhecimento da empresa, mas sim em utilizar dados fiáveis dentro de limites bem definidos e garantir que cada chamada seja passível de verificação.
评论列表 (9条):
加载更多评论 Carregando...