• 株式会社ずんだもん技術室AI放送局 podcast 20240816

  • Aug 15 2024
  • Length: Less than 1 minute
  • Podcast

株式会社ずんだもん技術室AI放送局 podcast 20240816

  • Summary

  • 関連リンク Delight your customers with great conversational experiences via QnABot, a generative AI chatbot Amazon Web Services QnABot on AWSは、Amazon Bedrockのファウンデーションモデル(FM)とKnowledge Bases for Amazon Bedrockを活用した、フルマネージドなエンドツーエンドのRetrieval Augmented Generation(RAG)ワークフローを提供します。これにより、プライベートデータソースからのコンテキスト情報を提供し、豊かなコンテキストを持つ会話型エクスペリエンスを構築できます。 QnABotは、自然言語理解(NLU)を備えたマルチチャネル、マルチ言語のチャットボットを実現し、顧客エクスペリエンスを向上させるためのAWSソリューションです。柔軟な階層型会話インターフェースを提供することで、顧客が求める場所に適切な応答を提供します。 QnABotは、AWS CloudFormationテンプレートを使用して展開でき、コーディングは不要です。AWSのAIと機械学習(ML)サービスを使用し、音声、Web、テキスト(SMS)など、複数のチャネルと統合できます。 QnABotは、Amazon Bedrockを通じて複数のFMにアクセスできるため、顧客の言語ニーズ(スペイン語、英語、フランス語など)、質問の洗練度、ユーザーの意図に基づく応答の精度に合わせて、会話型インターフェースを作成できます。また、Knowledge Bases for Amazon Bedrockとのネイティブ統合により、事前構築されたデータソースコネクタ(Amazon Simple Storage Service - S3、Confluence、Microsoft SharePoint、Salesforce、Webクローラー)を介してデータソースから特定の関連データを取得し、自動的にテキスト埋め込みに変換して、選択したベクトルデータベースに保存できます。これにより、ソースの属性(引用など)とともに会社固有の情報を取得して、透明性を高め、幻覚を最小限に抑えることができます。 QnABotは、Amazon BedrockのFMとRAGを活用することで、顧客に豊かで人間らしい会話型エクスペリエンスを提供します。 QnABot on AWSの詳細については、https://aws.amazon.com/solutions/implementations/qnabot-on-aws/をご覧ください。 引用元: https://aws.amazon.com/blogs/machine-learning/delight-your-customers-with-great-conversational-experiences-via-qnabot-a-generative-ai-chatbot/ Launch HN: Hamming (YC S24) – Automated Testing for Voice Agents Hammingは、LLM音声エージェントの自動テストを行うサービスです。音声エージェントの開発では、様々な状況を想定したテストが重要ですが、従来は手動で行う必要があり、時間がかかっていました。Hammingでは、現実的なユーザーシナリオを自動生成し、音声エージェントをテストすることで、開発効率を向上させることができます。 サービスは、ユーザーシナリオの生成、音声エージェントへの自動通話、会話内容の評価、品質メトリクスの追跡など、4つのステップで構成されます。 Hammingは、TeslaやAndurilでの経験を生かし、音声エージェントのシミュレーション精度を高めることに取り組んでいます。将来的には、シナリオ生成や評価の自動化、リアルなユーザー会話に基づくシナリオの再現なども実現を目指しています。 引用元: https://news.ycombinator.com/item?id=41257369 Gemma explained: An overview of Gemma model family architectures Gemmaは、Googleが開発したGeminiモデルと同じ研究と技術に基づいて構築された、軽量で最先端のオープンモデルファミリーです。Gemmaは、テキスト入力とテキスト出力、コーディング、テキストと画像入力とテキスト出力など、さまざまなユースケースやモダリティに対応するように設計されています。また、ハードウェアの種類、推論のニーズ、その他の制約に合わせて、さまざまなサイズで提供されています。 Gemmaのアーキテクチャは、Transformerのデコーダーに基づいており、エンコーダーとデコーダーの両方が含まれる元のTransformerモデルとは異なり、デコーダーのみのモデルです。Gemma 7Bモデルは、28層のGemmaDecoderLayerブロック、16個のヘッドを持つマルチヘッドアテンション、3072次元の埋め込み、256,000の語彙サイズなどの重要なパラメーターを持っています。 Gemma 2Bモデルは、Multi Query Attention (MQA)を使用しており、これはMulti Head Attention (MHA)よりも効率的です。CodeGemmaは、コード補完とコーディングチャットアシスタンス...
    Show more Show less

What listeners say about 株式会社ずんだもん技術室AI放送局 podcast 20240816

Average customer ratings

Reviews - Please select the tabs below to change the source of reviews.