シャノン の 定理。 標本化定理とは

ナイキスト・シャノンの定理

シャノン の 定理

商号 株式会社シャノン(SHANON Inc. ) 設立日 2000年8月25日 所在地 [本社] 〒108-0073 東京都港区三田3-13-16 三田43MTビル4F [関西支社] 〒531-0072 大阪府大阪市北区豊崎3-19-3 ピアスタワー14階 [名古屋オフィス] 〒450-0002 愛知県名古屋市中村区名駅2-45-14 東進名駅ビル4F [宮崎支社] 〒880-0852 宮崎県宮崎市高洲町144-1 [想能信息科技(上海)有限公司] 上海市静安区南京西路1728号百乐门大都会 6楼 607室 URL: 電話 代表 03-6743-1551 製品・サービスに関するお問い合わせ、お見積依頼 0120-955-008 サービスサポート窓口(ご契約ユーザ様向け) 0120-11-9500 資本金 取引銀行• 三井住友銀行 自由が丘支店• 三菱UFJ銀行 赤坂支店• みずほ銀行 青山支店 従業員数 事業内容• マーケティングクラウドの提供ならびにソリューションの企画・開発・販売• マーケティングに関連するコンサルティング・アウトソーシングサービスの提供 主要取引先• アイティメディア株式会社• 株式会社朝日新聞社• 株式会社インテリジェンス• インプレスグループ各社• 株式会社内田洋行• NTTグループ各社• エプソン販売株式会社• キヤノンマーケティングジャパン株式会社• 株式会社シマンテック• 株式会社JTBコーポレートセールス• 昭和シェル石油株式会社• スーパーストリーム株式会社• 株式会社セールスフォース・ドットコム• 太陽誘電株式会社• 電通グループ各社• 東洋経済新報社• 東洋ビジネスエンジニアリング株式会社• 凸版印刷株式会社• 株式会社日本金融通信社• 日本情報通信株式会社• 日本生命保険相互会社• 株式会社野村総合研究所• 博報堂グループ各社• 株式会社日立製作所• 富士ソフト株式会社• マンパワーグループ株式会社• ヤフー株式会社• 立命館大学校友会• ルネサス エレクトロニクス株式会社 など(敬称略 順不同) 経営陣 代表取締役社長 中村 健一郎 1978年4月 日本電信電話公社(現株式会社エヌ・ティ・ティ・データ)入社 2002年6月 株式会社エヌ・ティ・ティ・データ・イントラマート 取締役就任 2004年6月 株式会社エヌ・ティ・ティ・データ 取締役 法人ビジネス事業本部 副事業本部長就任 2007年6月 株式会社エヌ・ティ・ティ・データ・イントラマート 取締役常務執行役員就任 2008年10月 株式会社NTTデータMSE 代表取締役社長就任 2009年6月 株式会社エヌ・ティ・ティ・データ・システムズ(現株式会社NTTデータビジネスシステムズ)代表取締役社長就任 2015年6月 株式会社エヌ・ティ・ティ・データ・イントラマート 監査役就任 2020年1月 当社 取締役就任 常勤監査役 中里 雅光.

次の

クロード・シャノン

シャノン の 定理

クロード・シャノン 生誕 クロード・エルウッド・シャノン 1916-04-30 ペトスキー 死没 2001-02-24 (84歳没) 国籍 研究分野 および 研究機関 出身校 マサチューセッツ工科大学 博士課程 指導教員 フランク・ヒッチコック 博士課程 指導学生 () 主な業績 シャノンのスイッチングゲーム シャノン数 シャノン指数 シャノンの情報源符号化定理 シャノンの展開定理 シャノン=ウィーバーのコミュニケーションモデル ホイタッカー=シャノンの補間公式 主な受賞歴 (1966年) (1966年) (1972年) (1985年) クロード・エルウッド・シャノン( Claude Elwood Shannon, - )はの者、。 20世紀史における、最も影響を与えたの一人である。 の考案者であり、情報理論の父と呼ばれた。 情報、通信、暗号、データ圧縮、符号化など今日のに必須の分野の先駆的研究を残した。 やらとともに今日の技術の基礎を作り上げた人物として、しばしば挙げられる。 業績 [ ] デジタル回路設計の創始者 [ ] 1937年のでの修士論文「継電器及び開閉回路の記号的解析」 において、(ないし)がに対応することを示した。 すなわち、のオン・オフをに対応させると、スイッチの直列接続はに、並列接続はに対応することを示し、論理演算がスイッチング回路で実行できることを示した。 これは、・の概念の確立であり、それ以前のなどが職人の経験則によって設計されていたものを一掃し、数学的な理論に基づいて設計が行えるようになった。 どんなに複雑な回路でも、理論に基づき扱えるということはの実現に向けたとても大きなステップの一つだったと言える。 ハーバード大学教授の()は、この論文について「たぶん今世紀で最も重要で、かつ最も有名な修士論文」と評した。 ただし、わずかな時間差であるが、中嶋章による発表の方が先行しており(を参照)、独立な成果か否かは不明とされている。 情報理論の考案 [ ] 1948年在勤中に論文「」 を発表し、それまで曖昧な概念だった「」 information について定量的に扱えるように定義し、情報についての理論()という新たな数学的理論を創始した。 情報の量()をの起こる(生起確率)によって定義し、エントロピー(平均情報量)を次のとおりに定義した。 また、情報量の単位としてを初めて使用した。 そして、(雑音)がないで効率よく情報を伝送するための(「」または「シャノンの第一基本定理」)と、ノイズがある通信路で正確に情報を伝送するための(「」または「シャノンの第二基本定理」)という現在のでの最も重要な概念を導入した。 これらはそれぞれの分野と誤り訂正符号の分野の基礎理論となっている。 通信路符号化定理は単一通信路あたりの伝送容量に上限があることを意味する。 これらの定理は現在、などでの通信技術の基礎理論となっており、その後のと呼ばれるの急速な発展に結びついている。 標本化定理は1928年にによって予想されており、またシャノンの証明発表の同時期に証明をした人物が複数存在するが、シャノンのものが最も有名であり、英語圏では「ナイキスト=シャノンの標本化定理」という名前で知られている(詳しくはを参照)。 標本化定理は、現在、を始めとしたあらゆる技術の基礎定理となっている。 暗号理論に関する先駆的成果 [ ] 1949年に論文「秘匿系の通信理論」 を発表し、を利用すると情報理論的に解読不可能なが構成でき、情報理論的に解読不可能な暗号はワンタイムパッドの利用に限ることを数学的に証明した(現代の暗号研究で考察されているな暗号ではなく、な暗号を考察している点に注意)。 シャノンはこの論文で、暗号の(暗号化方法)が知られてもなお安全である暗号(参照)について考察しており、はじめて暗号について数学的分析を行った。 シャノンのチェスプログラム [ ] 1949年にに関する画期的な論文「チェスのためのコンピュータプログラミング」 を発表し、力ずくの総当たりでなくコンピュータがをする方法を示した。 コンピュータがどの駒をどう移動するかを決定するのにシャノンが用いた方法が、に基づいただった。 評価関数は、駒の価値や、駒の位置の価値、移動の価値などをすべて数値化して「局面」の価値を評価するものであり、シャノンはその後のゲーム展開を()に分類してどの着手がもっとも良いかを探索する方法について考察している。 この論文はコンピュータゲームでのコンピュータの思考プログラム設計の原典となった。 受賞歴 [ ]• 1940 アルフレッド・ノーブル賞()• 1949• 1955 フランクリン・インスティテュート() スチュアート・バランタイン・メダル• 1956 リサーチ・コーポレーション賞• 1962 栄誉賞• 1962 マービン・J・ケリー賞• 1966• 1966• 1967 ゴールデンプレート賞• 1972 (イスラエル)• 1978 ジョゼフ・ジャカール賞• 1978 ハロルド・ペンダー賞• 1985 ゴールドメダル• 1985 (日本)• 1991 エドワード・ライン賞 栄誉 [ ]• 1954 修士号 MS• 1961 名誉博士号• 1962 名誉博士号• 1964 名誉博士号• 1964 名誉博士号• 1970 名誉博士号• 1975 外国会員• 1978 名誉博士号• 1982 名誉博士号• 1984 名誉博士号• 1987 名誉博士号• 1991 名誉博士号• 2004 入り 脚注 [ ]• コンピュータ「技術」の基礎を作り上げた人物として挙げられる、ということは事実であるが(特に一般人は、「IT」というバズワードの T が技術を意味しているために)、チューリングやノイマンについても同じことが言えるが、技術への貢献以上に、まず第一に「理論への貢献」と、コンピュータの専門家や科学史家ならば言うであろう。 Claude Shannon, "A Symbolic Analysis of Relay and Switching Circuits", Massachusetts Institute of Technology, Dept. of Electrical Engineering, 1940. Claude Shannon, "A Mathematical Theory of Communication", Bell System Technical Journal, vol. 27, pp. 379—423 and 623—656, 1948. Claude Shannon and Warren Weaver, The Mathematical Theory of Communication, The University of Illinois Press, 1949. 出典はを参照。 論文の中で、用語 "bit" を考案したのはだとしている。 およびでは単位としてビットの代わりに Sh を使うことにしているが、現在のところあまり一般的ではない。 Claude Shannon, "Communication Theory of Secrecy Systems", Bell System Technical Journal, vol. 28, pp. 656—715, 1949. Claude Shannon, "Programming a Computer for Playing Chess", Philosophical Magazine, ser. 7, vol. 41, no. 314, 1950. 著書 [ ]• コミュニケーションの数学的理論、C. シャノン、W. ウィーヴァー、(The Mathematical theory of communication、E. Shannon、Warren Weaver、 C 1967 by The University of Illinois Press. )訳者:長谷川淳、井上光洋、。 通信の数学的理論 、Warren Weaver, Claude Elwood Shannon, 植松 友彦 翻訳 、 、、価格1260円。 上記の再翻訳、文庫版。 関連項目 [ ]• :情報量の単位• (シャノン-ファノ符号、Shannon-Fano code)• Information theory• Nyquist-Shannon sampling theorem• Shannon-Hartley law• (Shannon diagram)• One-time pad• 外部リンク [ ]• (受賞ページ)• (全文)• (修士論文)•

次の

会社概要|マーケティングオートメーションのシャノン

シャノン の 定理

において、 シャノンの通信路符号化定理(シャノンのつうしんろふごうかていり、: noisy-channel coding theorem)とは、のレベルがどのように与えられたとしても、その通信路を介して計算上の最大値までほぼエラーのない離散データ(デジタル)を送信することが可能であるという定理である。 この定理は、1948年にによって発表されたが、これはとの初期の仕事とアイデアに一部基づいていた。 シャノンの第一基本定理()に対して シャノンの第二基本定理とも言い、単に シャノンの定理とも言う。 上記の「計算上の最大値」を 通信路容量(またはシャノン限界、シャノン容量とも)といい、特定の雑音レベルについて、通信路の理論上の最大情報転送である。 概要 [ ] 1948年にによって定式化されたこの定理は、の可能な最大効率と雑音干渉およびデータ破損のレベルを記述している。 シャノンの定理は、通信との両方に幅広く応用されている。 この定理は、現代的なの分野にとって根本的に重要なものである。 シャノンは証明の概要を記述しただけで、離散した場合の最初の厳密な証明は、1954年のAmiel Feinsteinによるものである。 全ての符号は、ある正の最小レベルよりも大きい誤り率を有し、このレベルは、レートが増加するにつれて増加する。 従って、情報は、通信路容量を超えた速度で通信路を介して確実に伝送されることを保証することはできない。 この定理は、速度と容量が等しい稀な状況に対処するものではない。 通信路容量 C は、通信路の物理的特性から計算することができる。 を伴う帯域制限された通信路に対しては、を用いる。 「メッセージが3回送信され、受信されたメッセージが異なる場合に、3つの中で最良の2つを使用する」などの単純なスキームは、非効率的な誤り訂正法であり、データブロックが誤りなしに通信できることを漸近的に保証することはできない。 、 LDPC 、などの高度な技術は、理論的な通信路容量に近づくが、計算上の複雑さを犠牲にしている。 今日のでは、これらの高性能な符号化と計算能力を使用することで、通信路容量に非常に近いところまで到達することが可能になっている。 実際、LDPC符号は、非常に長いブロック長を有する2進AWGNチャネルの場合に、通信路容量の0. 0045dB以内に到達することができることが示された。 数学的な記述 [ ] 定理 Shannon, 1948 : 1. ビットの誤り率 p b が許容可能である場合、 R p b までのレートが達成可能である。 任意の p b について、 R p b より大きいレートは達成できない。 証明の概要 [ ] 情報理論における他のいくつかの主要な結果と同様に、雑音のある通信路符号化定理の証明は、達成可能な結果と、一致する逆の結果を含む。 この場合、これらの2つの成分は、ノイズの多い通信路を介して通信できる可能なレートのセットに結びつき、これらの境界が狭い境界であることを示すために役立つ。 以下の概要は、情報理論の教科書による学習で利用できる多くの異なるスタイルのうちの1つのセットである。 離散無記憶通信路の達成可能性 [ ] この達成可能性の証明は、 () AEP を利用する証明のスタイルに従う。 ()を用いた情報理論の教科書では、別のスタイルが使用されている。 どちらのタイプの証明でも、通信路全体で使用される符号一覧表がランダムに構成されているランダムな符号化引数を使用する。 これは、通信路容量以下の任意のデータレートで所望の低い誤り率を満足する符号の存在を証明しながら、解析をより簡単にするのに役立つ。 この符号は送信者と受信者に公開される。 メッセージ W は、通信路を介して送信される。 同時典型な符号語が存在しない場合、または2つ以上存在する場合は、誤りが宣言される。 復号された符号語が元の符号語と一致しない場合にも誤りが発生する。 これを典型集合復号 typical set decoding という。 このスキームの誤り率は、以下の2つの部分に分割される。 受信されたY系列に対して同時典型のX系列が見つからない場合、誤りが発生する可能性がある。 誤ったX系列が受信されたY系列と同時典型である場合、誤りが発生する可能性がある。 符号構成のランダム性によって、全ての符号にわたって平均化された平均誤り率は、送信されたインデックスに依存しないと仮定することができる。 同時AEPから、 n が大きくなるにつれて同時典型な X が存在しない確率は0になる。 最後に、平均符号一覧表が「良好」であると仮定すると、性能が平均より優れている符号一覧表が存在することがわかっており、雑音の多い通信路全体で通信する任意の低い誤り確率の必要性を満たす。 W をこの集合の上に一様に索引として描く。 R が C より小さい場合、任意の低いレートか、誤りしか得られない。 非定常無記憶通信路のための通信路符号化定理 [ ] 通信路は無記憶であると仮定しているが、その遷移確率は送信機および受信機において既知の方法で時間と共に変化する。 最大値は、それぞれの通信路の分配を達成する容量で達成される。 証明の概要 [ ] この証明は、通信路符号化定理とほぼ同じ方法で実行される。 達成可能性は、その特定の通信路のための容量を達成する能力から無作為に選択された各シンボルを用いたランダム符号化に続く。 典型的な引数は、 ()の記事で定義る非定常情報源の典型集合の定義を使用する。 関連項目 [ ]• () AEP• 脚注 [ ]• , , , and , "", , 5: 58-60, Feb. 2001. ISSN 1089-7798• MacKay 2003 , p. 162; cf Gallager 1968 , ch. 5; Cover and Thomas 1991 , p. 198; Shannon 1948 thm. ここで、"sup"関数はを表す。 Robert Gallager. Information Theory and Reliable Communication. New York: , 1968. 出典 [ ]• (), Thomas J. , Elements of Information Theory, , 1991. , Transmission of information; a statistical theory of communications, , 1961. , "A New basic theorem of information theory", , 4 4 : 2-22, 1954. (), , , 2003. [free online]• , Urbana, IL: University of Illinois Press, 1949 reprinted 1998. (), "The coding of messages subject to chance errors", Illinois J. Math. , 1: 591—606, 1957. 外部リンク [ ]•

次の