نظریه اطلاعات شانون ؛
شاید شما هم هر روز مقداری از زمان خود را صرف تماشای تلویزیون، گشت و گذار در اینترنت و یا گوش سپردن به سی دی های موسیقی كنید بدون آنكه بدانید تمامی این محصولات و همه دستاوردهای عصر اطلاعات بر پایه نظریه اطلاعات شانون كه توسط ریاضیدانی به نام كلود شانون مطرح شد شكل گرفته اند .
کلود شانون ریاضی‌دان و مهندس برق و استاد آمریکایی رمزنگاری بود که به‌عنوان «پدر نظریه اطلاعات» شناخته می‌شود. او در سال ۱۹۴۸ میلادی با انتشار مقاله ای تحت عنوان “نظریه ریاضی ارتباطات” عملاً پایه های نظریه خود را بنا نهاد و به‌شهرت رسید و بعدها در حوزه‌های دیگر عصر کامپیوتر، نیز نام خود را ماندگار کرد.
این مقاله با تمرکز بر یافتن روشی برای کدگذاری اطلاعات فرستنده‌ای فرضی تدوین شده بود. شانون در تحقیقات مرتبط با مقاله از نظریه‌ی «احتمالات نوربرت وینر» استفاده کرد. شانون در مقاله‌‌اش، مفهومی به‌نام انتروپی اطلاعات را مطرح کرد که برای اندازه‌گیری قطعیت‌نداشتن پیام‌ها تدوین شد. همین مفهوم پایه‌های نظریه اطلاعات را شکل داد.
شاخه ای از ریاضیات كاربردی ؛
این نظریه كه شاخه ای از ریاضیات كاربردی محسوب می شود به موضوع چگونگی كمّی كردن داده‌ها می پردازد و بدین ترتیب دانشمندان را قادر می سازد تا ظرفیت سیستم های مختلف برای ذخیره سازی، انتقال و پردازش داده ها را محاسبه كنند. علاوه بر این، این نظریه به موضوع مهم چگونگی فشرده سازی اطلاعات نیز می پردازد به گونه ای كه بتوان حداكثر میزان داده ها را با حداقل خطا ذخیره سازی و مخابره كرد.
در نظریه اطلاعات، مقدار اطلاعات را بر اساس مقدار میانگین بیت های اطلاعاتی مورد نیاز (جهت ذخیره سازی یا انتقال) بیان می كنند. جالب است بدانید كه واژه “بیت” به عنوان واحد اطلاعات برای نخستین بار توسط خود شانون مورد استفاده قرار گرفت، واژه ای كه هم اكنون در كل جهان فراگیر شده است.
نظریه اطلاعات عملاً شاخه های متعددی از علوم مختلف را- از ریاضیات و علوم رایانه گرفته تا زیست شناسی عصبی، زبان شناسی و حتی اخترفیزیك و فیزیك سیاهچاله ها – تحت تأثیر قرار داد. گذشته از همه اینها، “نظریه اطلاعات” كاربردهای مهمی هم در موضوع رمزنگاری و رمزگشایی، بازیابی اطلاعات و حذف خطاها دارد.
دیدگاهتان را بنویسید