Window AI

O Window AI parte do princípio de que a escolha do modelo deve pertencer ao utilizador e não ao site. Instala a extensão, adiciona os fornecedores que já paga ou executa localmente, e a partir daí qualquer site compatível pode pedir permissão para enviar um prompt ao modelo escolhido. A extensão mostra o pedido e deixa-o aprovar ou recusar, mantendo um registo visível de para onde vai o seu texto.

Para o utilizador final, o atrativo é a portabilidade: configurar uma vez um ambiente local de Llama ou GPT4All, uma chave Claude e uma chave GPT-4, e alternar entre eles em qualquer lugar. Para o programador, o atrativo é outro. Em vez de pagar e limitar uma chave API partilhada, uma aplicação pode pedir um modelo ao navegador do utilizador, o que elimina grande parte do custo de backend e permite que os utilizadores experimentem a aplicação gratuitamente com as suas próprias credenciais. Entre os modelos de texto suportados no lançamento estavam o GPT-3.5 e o GPT-4, o PaLM 2 Chat e Code Chat, o Claude e o Claude Instant, o GPT-NeoXT-20B da Together e o Cohere Xlarge, além dos ambientes locais abertos, com o Shape-E da OpenAI a cobrir a geração inicial de texto para 3D.

A extensão é gratuita e sem subscrição. A build publicada é de julho de 2023, pelo que pertence à primeira vaga de ferramentas independentes de modelo e não à vanguarda atual; a lista de fornecedores reflete essa época. Continua instalável e útil, sobretudo como exemplo do padrão «traga o seu próprio modelo» que depois surgiu em muitas plataformas para programadores de IA.