EC2の最新機能でコスト最適化!AWS Graviton/Inferentia/Trainium, EC2スポットインスタンス

学習の秋でもあるこの季節、AWS の 代表的な仮想サーバサービスである Amazon EC2 に更に詳しくなってみませんか?今回の Deep Dive 祭り2022 では、EC2 コスト最適化に活用できる AWS 独自のカスタムチップや EC2 スポットインスタンスに着目。前半では、様々なワークロードで高いコストパフォーマンスを発揮する Arm アーキテクチャの AWS Graviton プロセッサや、EC2 スポットインスタンスについての概要だけでなく、実際に Deep に活用いただいているカスタマーから、活用例についてご紹介いただきます。

また、後半では機械学習にフォーカスし、AWS が独自に開発を行っている推論・学習専用チップ AWS Inferentia / AWS Trainium の概要に加え、実際に Inferentia をサービスで活用いただいているカスタマーより、その重要性や考慮すべきポイント等を交えた Deep なご紹介をいただきます。この機会に、これまで使ったことのない EC2 の魅力に Dive Deep してみましょう!

アジェンダ

アジェンダの詳細は「+」をクリックいただくことでご確認いただけます。

本イベントのご案内



midaisuk.png

みなさんは、Amazon EC2 の基盤である AWS Nitro System をご存じでしょうか。AWS Nitro System では、AWS 独自のハードウェアに仮想化の負荷をオフロードすることで、カスタマーの利用する EC2 インスタンスに、より高いパフォーマンス、強固なセキュリティを提供します。また、Nitro System で培われた半導体設計技術は、AWS 独自の CPU である AWS Graviton プロセッサにもつながっています。本セッションでは、このような AWS 独自のハードウェアを中心に、Amazon EC2 をささえる技術についてご紹介します。

アマゾン ウェブ サービス ジャパン合同会社 技術統括本部 コンピュートシニアスペシャリストソリューションアーキテクト 宮本 大輔



junica.png

Amazon EC2 の購入オプションの1つであるスポットインスタンス。これを使いこなすための6つの原則はご存じでしょうか。頭ではわかっているつもりでも、現場では実践できていないことはないでしょうか。現場で起こりがちなケースを挙げ、その対応方法について紹介いたします。

アマゾン ウェブ サービス ジャパン合同会社 技術統括本部 金融ソリューション本部 ソリューションアーキテクト 阿部 純一郎



hiroskb.png

AWS BatchとSpotインスタンスを組み合わせるだけでなく、もう一歩踏み込んだの大規模計算時のコスト最適化のTipsを紹介します。

アマゾン ウェブ サービス ジャパン合同会社 技術統括本部 コンピュートスペシャリスト ソリューションアーキテクト 小林 広志



aws-150.v2.png

Graviton3に新たに搭載されたSVE命令について、概要や特徴に触れ、SVE命令を使った簡単なプログラムの移植例を説明します。その後、実際に既存のOSSを高速化した事例を紹介します。

株式会社フィックスターズ ソリューション第二事業部 シニアエンジニア 今泉 良紀 様



aws-150.v2.png

数十TB/dayのデータを処理するストリーミングETL処理基盤では、データ処理に大量のEC2を使用しています。EC2がコストの支配項となるようなシステムにおいて簡単にコストを削減する方法としてGraviton2への移行に着目しました。移行に際して我々が行なった取り組みやTipsなどについてお話しします。

株式会社NTTドコモ サービスイノベーション部ビッグデータ担当 田中 正浩 様 /(NTTコミュニケーションズ出向中) 矢吹 健二 様



20221013-EC2-Smartnews_Dennis Zhao.png
20221013-EC2-Smartnews_Shaochen Yuan.png

Machine learning models help SmartNews to deliver quality information to people who need it. In this session we will talk about our challenges during model serving, and the inference performance with Graviton instances.

Mr. Dennis Zhao Engineering Manager, AI-Infrastructure Team. SmartNews, Inc.
Mr. Shaochen Yuan Senior Software Engineer, AI-Infrastructure Team. SmartNews, Inc.



前半のセッションに関するQA時間



mlkeita.png

このセッションでは、Inferentiaは機械学習モデルの推論プロセス効率化をステップ・バイ・ステップで解説します。それに加えて、g4/g5を用いた推論とのパフォーマンスの比較を行いInf1を用いた場合のコストメリットについて議論します。

アマゾン ウェブ サービス ジャパン合同会社 技術統括本部 コンピュートスペシャリスト ソリューションアーキテクト 渡辺 啓太



20221013-EC2-Money_Forward.jpg

弊社ではInf1インスタンスをECS on EC2で利用し大規模推論環境を構築し既存環境から移行するという作業を、約2ヶ月という短期間で行いました。約2ヶ月でできた理由、Inf1インスタンスの魅力、既存環境からのスムーズな移行のためのポイント、気をつけるべき点などについてお話しします。

株式会社マネーフォワード CTO室AI推進部 安立 健人 様



20221013-EC2-SoftBank_Watanabe_pic.jpg
20221013-EC2-qolony-Oshita-sama.png

誰でも手軽にAIを使うことができるプラットフォームが生まれました。 「AIで何かできないか?」「AIで試したいアイデアがある…」 ビジネスの最前線で悩むあなたに、AIを手軽に「学べる・作れる・試せる」クラウド型AIプラットフォーム『AIMINA』を事例を交えてご紹介します。当セッションの後半では、AIプラットフォーム『AIMINA』のシステム構成とInf1インスタンスの検証について、システム設計コンセプトや技術的チャレンジをご紹介いたします。

SB C&S株式会社 AIMINA事業推進室 室長 渡邉 敬介 様
コロニー株式会社 マネージングディレクター/シニアエンジニアディレクター Michael H. Oshita 様



前半のセッションに関するQA時間



本イベントのまとめと、アンケートに関して






日時 2022 年 10 月 13 日(木) 開演:13:00 〜 17:00
参加費 無料
申込方法 お申し込みフォームに記載 (メールで Webinar アクセス用リンクが送信されます。)
※競合他社様からのお申し込みはお控えください。
※複数名のご参加を予定されている場合でも、お手数ですが 1 名ずつのお申し込みが必要となります。(おひとり様につき1つのメールアドレスが必要となります。)
対象
  • Amazon EC2 を技術的に深堀した内容に興味をお持ちの技術者の方
  • 現在 AWS を利用中で、最新のCPUへ移行しパフォーマンスとコスト最適化を図ることに興味がある方
  • AWS の推論・学習専用チップの活用について情報収集されたい方

    (想定テクニカルレベル Level 400)

    推奨パソコン環境 視聴にあたり、以下の PC 環境をご確認ください。

    ブラウザ環境:
    Google Chrome (most recent 3 versions)
    Mozilla Firefox (most recent 3 versions)

    インターネット環境:
    Computer: 1 Mbps or better (broadband recommended) 

    ※セルフチェックが可能となっております。セルフチェックはこちら≫
    ※携帯からのご視聴は推奨しておりません。



    テクニカルレベル:

    Level 100
    Introductory
    AWS サービスの概要に焦点を当てており、参加者は対象のトピックに関する知識が全くない方を対象としています。
    Level 200
    Intermediate
    トピックの入門知識を持っていることを前提に、ベストプラクティス、サービス機能の詳細、およびデモを提供することに焦点を当てています。
    Level 300
    Advanced
    対象のトピックの詳細を提供するセッションです。参加者はそのトピックにある程度精通している方が対象です。ただし、同様のソリューションの実装経験がない場合もあります。
    Level 400
    Expert
    トピックに精通しており、既に独自ソリューションを実装している方が対象です。複数のサービス、アーキテクチャによる実装でテクノロジーがどのように機能するかを解説します。

    ウェビナー開催日時

    日付: 2022 年 10 月 13 日(木)
    時間: 13:00 – 17:00
    会場:  オンライン開催
    参加費: 無料
    主催: アマゾン ウェブ サービス ジャパン合同会社