Por qué tu IA favorita podría estar equivocada: el secreto para hacer que la IA sea confiable

Ciencia y Tecnología

[Aviso] Este artículo ha sido reconstruido a partir de información de fuentes externas. Por favor, verifique la fuente original antes de utilizar esta información.

Resumen de noticias

El siguiente contenido fue publicado en línea. A continuación, se presenta un resumen traducido. Consulte la fuente para obtener más detalles.

Salesforce explica por qué los sistemas de IA necesitan algo más que simples datos brutos para ser confiables: necesitan un “conocimiento empresarial” integral. Este conocimiento incluye toda la información no estructurada dentro de una empresa: documentos, correos electrónicos, interacciones con clientes, guías internas y experiencia de los equipos. Sorprendentemente, más del 80% de todos los datos empresariales consisten en esta información a menudo sin explotar. Para que los agentes de IA (sistemas que pueden tomar decisiones y realizar acciones de forma autónoma) funcionen de manera confiable, necesitan acceso a esta base de conocimiento completa. Sin ella, la IA podría tomar decisiones superficiales o incorrectas que socaven la confianza. El conocimiento empresarial es crucial por cuatro razones: alimentar la toma de decisiones con confianza al proporcionar un contexto rico, garantizar la precisión contextual y la personalización, impulsar la innovación ética manteniendo la eficiencia, y respaldar el cumplimiento en industrias reguladas. La Nube de Datos de Salesforce aborda el desafío del conocimiento fragmentado al crear una plataforma unificada que conecta datos de todas las fuentes: CRM, marketing, ventas y servicio. Esto garantiza que los agentes de IA operen con información completa y actualizada, manteniendo una gobernanza y seguridad adecuadas. Empresas como Precina utilizan este enfoque para brindar atención médica personalizada, manteniendo el cumplimiento normativo y demostrando cómo organizar el conocimiento empresarial transforma a la IA de simplemente inteligente a genuinamente confiable.

Fuente: Noticias de Salesforce

Nuestro comentario

Antecedentes y contexto

Background and Context illustration

¿Alguna vez has preguntado a un chatbot de IA y has recibido una respuesta que suena inteligente pero que está completamente equivocada? ¿O cuando un asistente virtual malinterpreta lo que necesitas porque no sabe lo suficiente sobre ti? Esto ocurre porque la mayoría de los sistemas de IA solo ven una parte del panorama, como intentar comprender una película viendo escenas aleatorias fuera de orden.

Las empresas están descubriendo que, para que la IA sea realmente útil y confiable, necesita acceso a TODO su conocimiento, no solo a las bases de datos organizadas, sino a la información desordenada y del mundo real oculta en correos electrónicos, documentos y las mentes de las personas. ¡Este conocimiento oculto representa un sorprendente 80% de lo que las empresas saben!

Análisis de expertos

Analicemos lo que realmente significa el “conocimiento empresarial” con una analogía escolar:

Datos estructurados (20%): Esto es como los registros oficiales de tu escuela: nombres de estudiantes, calificaciones, asistencia. Está organizado y es fácil de leer para las computadoras.

Conocimiento no estructurado (80%): Esto es todo lo demás: las notas de los maestros sobre qué estudiantes trabajan bien juntos, los correos electrónicos sobre los próximos eventos, ese documento que explica por qué el gimnasio está cerrado los martes, incluso el conocimiento del conserje sobre qué puertas de las aulas se atascan. ¡Este conocimiento humano desordenado es en realidad MÁS importante para tomar buenas decisiones!

Aquí está por qué la IA necesita ambos tipos:

El contexto importa: Una IA que programe una reunión necesita saber no solo cuándo están libres las personas, sino también que a Bob le odian las reuniones matutinas y que Sarah está en una zona horaria diferente.

Evitar vergüenzas: Sin un conocimiento completo, la IA podría programar una gran presentación durante el picnic de la empresa o recomendar un producto que se descontinuó el mes pasado.

Construir confianza: Cuando la IA entiende el panorama completo, sus sugerencias tienen sentido y la gente confía más en ella.

Datos adicionales y hechos

Los cuatro pilares de una IA confiable a través del conocimiento empresarial:

1. Toma de decisiones con confianza: La IA con conocimiento completo puede razonar a través de los problemas como un empleado experimentado.

2. Personalización: Comprender el contexto permite que la IA te brinde exactamente lo que necesitas, cuando lo necesitas.

3. Innovación ética: La IA puede encontrar nuevas soluciones respetando los valores y la ética de la empresa.

4. Cumplimiento: En el sector de la salud o las finanzas, la IA debe seguir reglas estrictas; el conocimiento completo asegura que se mantenga dentro de los límites.

Ejemplo real: Precina utiliza este enfoque para el cuidado de la diabetes. Su IA no solo ve los registros médicos, sino que también comprende los historiales de tratamiento, los requisitos de seguro y las necesidades individuales de los pacientes, creando planes de atención personalizados que son efectivos y cumplen con las regulaciones.

Noticias relacionadas

Este impulso por un conocimiento integral de IA se conecta con la tendencia más amplia de los “agentes de IA”: sistemas que no solo responden preguntas, sino que también toman acciones. A medida que las empresas implementan estos agentes para el servicio al cliente, las ventas y las operaciones, las apuestas se vuelven más altas. Un chatbot que da información errónea es molesto; un agente de IA que toma decisiones equivocadas podría perder clientes o violar regulaciones.

Las principales empresas de tecnología se están apresurando a resolver este problema. El Copilot de Microsoft tiene como objetivo comprender todo el contexto de tu trabajo, el Gemini de Google quiere conectar toda tu vida digital, y ahora el enfoque de Salesforce se centra en unificar el conocimiento empresarial. El ganador será quien pueda organizar y utilizar mejor ese 80% oculto de conocimiento.

Resumen

Summary illustration

Hacer que la IA sea confiable no se trata solo de mejores algoritmos, sino de dar a la IA acceso al panorama completo, incluido el 80% del conocimiento empresarial oculto en documentos, correos electrónicos y experiencia humana. Al unificar toda esta información, las empresas pueden construir sistemas de IA que tomen decisiones inteligentes, entiendan el contexto y mantengan la confianza.

Para los estudiantes interesados en carreras en tecnología o negocios, esto resalta una lección importante: las partes más desordenadas y humanas de las organizaciones, las que no encajan en las hojas de cálculo, a menudo son las más valiosas. Ya sea que te intereses en el desarrollo de IA, el análisis de negocios o la gestión de la información, entender cómo capturar y organizar el conocimiento humano será una habilidad crucial. El futuro pertenece a quienes puedan tender un puente entre la comprensión humana y la inteligencia artificial.

Reacción pública

Los líderes empresariales están reconociendo que sus datos “desordenados” son en realidad valiosos, y muchos están lanzando proyectos para organizar el conocimiento institucional. Los profesionales de TI enfrentan el desafío de conectar sistemas dispares manteniendo la seguridad. Los empleados se preocupan por que la IA tenga acceso a todos sus correos electrónicos y documentos, lo que plantea problemas de privacidad. Los responsables de cumplimiento aprecian el enfoque en la gobernanza, pero enfatizan la complejidad de la implementación. Los estudiantes y los jóvenes profesionales ven oportunidades en el campo emergente de la “ingeniería del conocimiento”: organizar el conocimiento humano para el consumo de la IA.

Preguntas frecuentes

P: ¿Es seguro dar a la IA acceso a toda la información de la empresa?
R: Por eso la gobernanza es crucial. Sistemas como Salesforce Data Cloud incluyen funciones de seguridad para controlar a qué puede acceder la IA y garantizar que la información confidencial permanezca protegida.

P: ¿Cuál es la diferencia entre datos y conocimiento?
R: Los datos son hechos crudos (como “Reunión a las 3 PM”). El conocimiento incluye contexto y comprensión (como “Esta es nuestra reunión más importante con el cliente, todos deberían vestir formalmente”).

P: ¿Cómo pueden los estudiantes prepararse para carreras en este campo?
R: Aprende habilidades técnicas (ciencia de datos, IA) y habilidades blandas (comprender cómo funcionan las organizaciones, comunicación). El futuro necesita personas que puedan traducir entre el conocimiento humano y los sistemas de IA.

タイトルとURLをコピーしました