Open YouTube

Get Certified SQL+AI (DP-800): Bring AI to SQL with Embeddings, Search, and RAG

Microsoft Reactordutchenpublicupdated

Read in about 4 minutes instead of watching 65 minutes.

Introductie en DP-800-context

  1. De sessie introduceert DP-800 als certificeringstraject voor SQL AI Developer en focust op AI in SQL met embeddings, search en RAG.
  2. De sprekers zijn Umut Celal Akoglu en Brian, beiden Microsoft Data Platform MVP’s, met demo’s rond SQL Server 2025 en Azure SQL.
  3. De certificering behandelt SQL Server, Azure SQL, SQL databases in Fabric, T-SQL, datamodellen, CI/CD, beveiliging en AI-fundamentals.
  4. De examendomeinen zijn databaseoplossingen ontwerpen en ontwikkelen, security en compliance, en AI-capabilities zoals vectors, embeddings en RAG.

Embeddings en modellen in SQL

  1. Externe AI-modellen kunnen in T-SQL worden aangemaakt met locatie, credentials en modeltype, zoals embeddings of completions.
  2. Bij modelkeuze tellen mogelijkheden, latency, kosten en tokenlimieten mee.
  3. Managed identity maakt veilige, wachtwoordloze toegang mogelijk zonder secrets in code.
  4. Kolommen met semantische betekenis, zoals productbeschrijvingen, reviews en documentatie, zijn goede kandidaten voor embeddings; IDs, statuscodes en prijzen meestal niet.
  5. Chunking splitst lange teksten in kleinere delen om kosten, tokens, indexering en zoekprecisie beter te beheren.
  6. SQL Server kan tekst chunking, embeddings en vectors opslaan en indexeren; vectorafstand wordt gebruikt om semantische overeenkomst te berekenen.
  7. Embeddings moeten onderhouden worden via triggers, batches, change tracking of updates op aanvraag, afhankelijk van workload en prestaties.

Zoeken met SQL

  1. Voor zoekfunctionaliteit moet je kiezen tussen full-text search, vector search en hybrid search op basis van exacte termen, synoniemen, typefouten, snelheid en complexiteit.
  2. Full-text search is geschikt voor exacte keywords en vereist catalogi, indexes, doelkolommen, unieke keys en optioneel taalspecifieke verwerking.
  3. Vector search gebruikt embeddings en vectorafstanden zoals cosine, Euclidean en dot product om semantische overeenkomsten te vinden.
  4. Exact nearest neighbor levert maximale nauwkeurigheid, terwijl approximate nearest neighbor sneller is en beter past bij grote datasets.
  5. Hybrid search combineert full-text en vector search en gebruikt reciprocal rank fusion om resultaten te rangschikken.
  6. Zoekkwaliteit wordt beoordeeld met recall, precision, latency en indexoverhead.

Demo’s met Walmart en Stack Overflow

  1. In de Walmart-demo zoekt de applicatie met emotionele of natuurlijke taal, zoals een premium koffieverzoek, in productdata met vector search.
  2. De demo toont een T-SQL-procedure die de prompt embedt, similarity search uitvoert, JSON voorbereidt, een LLM aanroept en het antwoord parseert.
  3. In de Stack Overflow-demo gebruikt de spreker miljoenen rijen publieke data om vragen over SQL Server-queryoptimalisatie te beantwoorden.
  4. Voor grote datasets gebruikt de demo vector_search met een vectorindex in SQL Server 2025, waarbij de ruwe vectorzoekactie onder 100 milliseconden kan blijven.

RAG met SQL

  1. RAG is geschikt voor chatbots en contextgebaseerde systemen die vrije tekstvragen beantwoorden op basis van bestaande data.
  2. Een RAG-pipeline in T-SQL zoekt relevante data met vector search, zet resultaten om naar JSON, bouwt een prompt en roept een extern LLM-endpoint aan.
  3. RAG geeft grounded antwoorden op basis van databasegegevens, zonder dat data eerst gemigreerd hoeft te worden.
  4. Bestaande SQL-beveiliging zoals row-level security, permissies en encryptie blijft van toepassing.
  5. Voor RAG zijn JSON-functies en SP_INVOKE_EXTERNAL_REST_ENDPOINT belangrijk om T-SQL met externe LLM-API’s te verbinden.
  6. De LLM moet expliciet worden geïnstrueerd om alleen te antwoorden op basis van de meegegeven context om hallucinaties te beperken.

Extra demo’s en afsluiting

  1. Omar toont een eigen NotebookLM-achtige applicatie die lokaal met SQL Server 2025 documenten kan samenvatten en content zoals mindmaps, kaarten, quizzes en audio kan genereren.
  2. De robotdemo laat een AI-assistent zien die live met SQL Server 2025 communiceert en via vector search productaanbevelingen geeft.
  3. De robot beantwoordt een premium koffieverzoek met een aanbevolen product dat via SQL Server-vectorzoekactie is gevonden.
  4. De sessie sluit af met dank aan sprekers, moderatoren en deelnemers, en verwijst naar toekomstige afleveringen en feedbackmogelijkheden.

Actiepunten

  1. Lees de code of conduct en houd chatreacties professioneel en on-topic.
  2. Registreer je voor de volgende DP-800 livesessie via aka.ms/dp800/live.
  3. Meld je aan voor het SQL user panel via aka.ms/joinsqluserpanel om feedback en ideeën te delen.
  4. Sluit je aan bij Azure Data User Groups via aka.ms/azuredatagroup/live.
  5. Bekijk komende Data Days via aka.ms/datadays.
  6. Boek het DP-800-examen via aka.ms/db800/exam als de certificering relevant is voor je rol.