Character.AI
Character.AI permite a los usuarios chatear con personajes de IA creados por usuarios para juegos de rol, compañía y escritura creativa, con una audiencia mayoritariamente juvenil y orientada al consumidor, y controles empresariales mínimos.
Puntuación de riesgo
Evaluación en manejo de datos, cumplimiento, seguridad y transparencia.
Resumen
Character.AI es una plataforma de chatbot para consumidores donde cualquiera puede crear y compartir personajes de IA (reales, ficticios u originales) basados en LLM propietarios. Los usuarios mantienen conversaciones largas con memoria con estos personajes para entretenimiento, juegos de rol, apoyo emocional, tutoría y escritura creativa. El producto está muy orientado a adolescentes y adultos jóvenes, y ha sido objeto de múltiples demandas y escrutinio regulatorio por seguridad de menores, contenido de autolesiones y dependencia parasocial. La plataforma ofrece un nivel gratuito y Character.AI Plus (9,99 $/mes) para respuestas más rápidas y funciones anticipadas. Los controles empresariales son prácticamente inexistentes: sin SSO, sin consola administrativa, sin DPA para uso empresarial. Los personajes son generados por usuarios y no moderados por el proveedor en origen, por lo que el comportamiento, las afirmaciones y la 'experiencia' del personaje no están controlados. Tratar como una app de consumo no adecuada para el trabajo.
Factores de riesgo
4- Producto orientado al consumidor sin plan empresarial ni SSO
- Las conversaciones de usuarios se usan para mejorar modelos por defecto
- Base de usuarios juvenil genera preocupaciones de cumplimiento para empleadores
- Controles administrativos mínimos para visibilidad organizacional
Recomendaciones
3- Bloquear dominio en salida si las políticas empresariales prohíben IA de consumo
- Educar a empleados para no pegar datos propietarios
- Monitorizar DNS / telemetría del navegador para uso
Gestión de datos
- Almacenamiento
- Conversaciones y personajes creados por usuarios almacenados indefinidamente en servidores de Character.AI (ubicados en EE. UU., GCP). Sin residencia regional controlada por el cliente.
- Conservación
- Chats retenidos hasta que el usuario los elimina o cierra la cuenta; solicitudes de eliminación atendidas en ~30 días según política de privacidad.
- Entrenamiento sobre entradas
- Las conversaciones y las interacciones con personajes se usan para entrenar y mejorar los modelos de Character.AI por defecto, sin opción de exclusión para consumidores.
Más Chatbots Herramientas
Ver todos →01.AI Yi
Laboratorio chino de IA que ofrece la serie Yi de modelos abiertos y propietarios.
AI21 Jurassic
Modelo de lenguaje grande para chat y generación de texto por AI21 Labs.
ARC Search
Navegador móvil potenciado con IA con resumen inteligente de páginas.
Abacus AI
Plataforma empresarial de IA para crear aplicaciones personalizadas impulsadas por LLM.
Ada AI
Plataforma de automatización de servicio al cliente impulsada por IA.
Andi Search
Motor de búsqueda potenciado por IA que ofrece respuestas conversacionales directas.
Consulta las herramientas de IA que se utilizan en toda tu organización.
Conecta tu investigación de herramientas con la actividad de la IA de los empleados y las preguntas de seguridad de datos que importan a tu equipo.