پایان نامه ارشد فناوری اطلاعات: روشهای استخراج اطلاعات با استفاده از داده های دسترسی به وب

دانلود متن کامل پایان نامه با فرمت ورد

پایان نامه مقطع کارشناسی ارشد رشته فناوری اطلاعات

سمینار ویژه کارشناسی ارشد مهندسی فناوری اطلاعات

گرایش طراحی و تولید نرم افزار

عنوان:

روشهای استخراج اطلاعات با استفاده از داده های دسترسی به وب

استاد درس:

جناب آقای دکتر حمزه

برای رعایت حریم خصوصی نام نگارنده درج نمی شود

تکه هایی از متن به عنوان نمونه :

فهرست مطالب:

1- مفهوم داده کاوی و وب کاوی   ——————————————- 5

1-1- وب کاوی ———————————————————-5

2-1- ارتباط وب کاوی و داده کاوی——————————————-6

3-1- انواع وب کاوی——————————————————-7

2- اهداف و کاربرد ———————————————————8

1-2- خصوصی سازی محتوای وب———————————————8

2-2- پیش بازیابی ———————————————————8

3-2- بهبود طراحی سایت های وب——————————————–8

2-4- تشخیص اجتماعات وب—————————————————9

2-5-پیمایش وب————————————————————9

2-6- کاربردهای وب کاوی—————————————————–9

2-6-1- تجارت الکترونیکی—————————————————-10

2-6-2- موتورهای جستجو—————————————————10

2-6-3- حراجی در وب——————————————————10

3- مشکلات و چالش های وب کاوی——————————————11

4- وب کاوی و زمینه های تحقیقاتی مرتبط————————————12

4-1- وب کاوی و داده کاوی————————————————–12

4-2- وب کاوی و بازیابی اطلاعات———————————————-12

4-3- وب کاوی و استخراج اطلاعات———————————————13

4-4- وب کاوی و یادگیری ماشین———————————————-13

5- انواع وب کاوی———————————————————–14

5-1- کاوش محتوای وب—————————————————–15

5-1-1- انواع کاوش محتوا در وب ———————————————16

5-1-1-1- طبقه بندی——————————————————-16

5-1-1-3- خوشه بندی——————————————————16

5-1-1-4- سایر انواع کاوش محتوا در وب—————————————-17

5-1-2- رویکردهای کاوش محتوا در وب ————————————————-17

5-1-3- الگوریتم های کاوش محتوا در وب —————————————18

5-1-3- 1- درخت تصمیم——————————————————–18

5-1-3- 2- شبکه عصبی———————————————————-18

5-1-3- 3- سایر الگوریتم های کاوش————————————————18

5-2- کاوش ساختار وب———————————————————–19

5-2-1- مدل های بازنمایی ساختار وب———————————————–19

5-2-1-1- مدل های مبتنی بر گراف————————————————-19

5-2-1-2- مدل های مارکو———————————————————21

5-2-2- الگوریتم های کاوش ساختار وب———————————————-21

5-2-2-1- HITS—————————————————————-

5-2-2-2- Page Rank———————————————————-

5-2-2-3- الگوریتم جریان بیشینه—————————————————23

5-2-2-4- Average Clicks—————————————————–

6- کاوش استفاده از وب————————————————————24

6-1- انواع داده های استفاده از وب—————————————————25

6-1-1- داده های سرورهای وب—————————————————–25

6-1-2- داده های سرورهای پراکسی————————————————–25

6-1-3- داده های کلاینت———————————————————-25

6-2- پیش پردازش داده های استفاده از وب——————————————–26

6-2-1- پاکسازی داده————————————————————-26

6-2-2- تشخیص و بازسازی نشست—————————————————26

6-2-3- بازیابی ساختار و محتوا——————————————————27

6-2-4- قالب بندی داده————————————————————27

6-3- روش های کاوش استفاده از وب————————————————-28

6-3-1- قوانین انجمنی————————————————————-28

6-3-2- الگوهای ترتیبی————————————————————28

6-3-3- خوشه بندی—————————————————————29

6-4- کاربردهای کاوش استفاده از وب————————————————-29

6-4-1- خصوصی سازی محتوای وب————————————————–30

6-4-2- پیش بازیابی ————————————————————–30

6-4-3- بهبود طراحی سایت های وب————————————————-30

6-5-خروجیها و تکنیکهای wum—————————————————-

6-6 -تحلیل wum—————————————————————

7- نتیجه گیری——————————————————————-32

8- مراجع————————————————————————33

چکیده:

با افزایش محبوبیت شبکه جهانی وب، مقدار حجیمی از داده‌ها توسط وب سرورها در قالب فایلهای ثبت وقایع وب جمع‌آوری می‌شوند. این فایلها که در آنها تمامی فعالیتهای و رخ‌داده در سیستم وب‌سرور ثبت می‌شود، می‌توانند به عنوان منابع بسیار غنی از اطلاعات برای درک و تشخیص رفتار کاربران وب، استفاده شوند. با توجه به گسترش روز افزون حجم اطلاعات در وب و ارتباط وب کاوی با تجارت الکترونیکی، وب کاوی به یک زمینه تحقیقاتی وسیع مبدل گشته است .

کاوش استفاده از وب یا به بیان بهتر کاوش داده های استفاده از وب که آن را کاوش فایل ثبت وقایع در وب نیز می‌نامند، در واقع استفاده از الگوریتمهای داده کاوی بر روی فایلهای ثبت وقایع وب به منظور پیدا کردن مسیر حرکت و نظم موجود در الگوهای جستجوی کاربران وب است.

کاوش داده های استفاده از وب، روش پیداکردن کاربرانی است که در اینترنت به دنبال اهداف خاصی می گردند. بعضی از کاربران ممکن است به دنبال داده های متنی باشند در حالی که بعضی دیگر ممکن است بخواهند داده های سمعی وبصری را ازاینترنت دریافت نمایند.کاوش داده های استفاده از وب به ما کمک می کند تا الگو هایی از گروه های مشخصی از افراد را که به مناطق مشخصی تعلق دارند پیدا کنیم.

2- مفهوم داده کاوی و وب کاوی

داده کاوی یک نوع تحلیل برروی پایگاه داده های بزرگ است که به کشف دانش جدید از آن پایگاه داده منتهی می شود. وقتی پایگاه داده سیستم بزرگ می شود و اطلاعات متنوعی در آن وجود دارد با استفاده از داده کاوی می توانیم الگوهایی را برروی این پایگاه داده کشف کنیم که با روابط درون پایگاه داده نمی شد به آن پی برد.بعنوان مثالی ساده ، شما پایگاه داده سایت آمازون (خرید و فروش اینترنتی) را در نظر بگیرید، برروی پایگاه داده این سایت اطلاعات زیادی از خرید ها و جستجو های افراد مختلف وجود دارد، با استفاده از تکنیک های داده کاوی می توانیم یک الگو بدست بیاوریم که مشخص می کند هر جستجو در سایت در نهایت منجر به چه خریدی شده است و سپس آن را به سایر کاربران بعنوان راهنمایی ارائه کنیم.

داده کاوی فرایندی تحلیلی است که برای کاوش داده ها (معمولا حجم عظیمی از داده ها – در زمینه های کسب وکار و بازار) صورت می‌گیرد و یافته‌ها‌با‌به‌کارگیری الگوهایی‌،‌احراز اعتبار می‌شوند . هدف اصلی داده کاوی پیش بینی است و به صورت دقیق تر میتوان گفت :
“کاوش داده ها شناسایی الگوهای صحیح، بدیع، سودمند و قابل درک از داده های موجود در یک پایگاه داده است که با استفاده از پرداز شهای معمول قابل دستیابی نیستند” [5].

داده کاوی، علم استخراج اطلاعات مفید از پایگاه های داده یا مجموعه داده ای می باشد. به عبارت دیگرداده کاوی استخراج نیمه اتوماتیک الگوها، تغییرات، وابستگی ها، نابهنجاری ها و دیگر ساختارهای معنی دار آماری از پایگاه های بزرگ داده می باشد [5].

1-4- وب کاوی

با افزایش چشمگیر حجم اطلاعات و توسعه وب، نیاز به روش ها و تکنیک هایی که بتوانند امکان دستیابی کارا به داده ها و استخراج اطلاعات از آنها را فراهم کنند، بیش از پیش احساس می شود. وب کاوی یکی از زمینه های تحقیقاتی است که با به کارگیری تکنیک های داده کاوی به کشف و استخراج خودکار اطلاعات از اسناد و سرویس های وب می پردازد. در واقع وب کاوی، فرآیند کشف اطلاعات و دانش ناشناخته و مفید از داده های وب می باشد .وب کاوی در واقع کاربرد تکنیک های داده کاوی به منظور کشف الگوهایی از وب می باشد.

استفاده از وب داده های[1]  وب یکی از گام های کلیدی در کشف دانش در پایگاه داده، ایجاد یک مجموعه داده مناسب جهت انجام داده کاوی می باشد.در وب کاوی این داده می تواند از سمت سرور، مشتری، پروکسی سرور یا از یک پایگاه داده سازمان جمع آوری شود. هر کدام از این داده ها نه تنها از نظر منابع داده متفاوت می باشند بلکه از نظر انواع داده های موجود و محدوده مکانی که آن داده از آنجا جمع آوری می شود و متد پیاده سازی آن انواع داده ای که در وب کاوی استفاده می شود شامل: “محتوا “: داده واقعی در صفحات وب، داده ای که صفحه وب برای نمایش آن به کاربران طراحی شده است.که معمولاً از متن و گرافیک تشکیل شده ولی به آن محدود نمی شود.”ساختار” : داده ای که سازمان دهی محتوا را مشخص می سازد. اطلاعات ساختار درون صفحات شامل ترتیب انواع تگ های XML  یا HTML در یک صفحه داده شده می باشد و می تواند به صورت یک ساختار درختی نمایش داده شود که تگ ریشه درخت می باشد. اصلی ترین نوع از اطلاعات ساختاری بین صفحات، هایپرلینک است که یک صفحه را به دیگری مرتبط می کند.”استفاده”: داده ای که الگوی استفاده از صفحات وب را مشخص می سازد، مثل آدرس های IP، رجوع به صفحات و تاریخ و زمان دسترسی. “پروفایل کاربر” : داده ای که اطلاعات آماری درباره کاربران وب سایت فراهم می سازد که شامل داده ثبت نام و اطلاعات پروفایل مشتری می باشد.منابع داده داده های استفاده که از منابع مختلفی جمع آوری می شود، الگوهای راهبری از بخش های مختلفی از کل ترافیک وب را نمایش می دهد.  جمع آوری در سطح سرورلاگ های وب سرور یک منبع مهم برای اجرای وب کاوی استفاده از وب محسوب می شود زیرا به طور صریح رفتار مرورگری تمام مشاهده کنندگان سایت را ثبت می کند.

[1] Web data

***ممکن است هنگام انتقال از فایل اصلی به داخل سایت بعضی متون به هم بریزد یا بعضی نمادها و اشکال درج نشود ولی در فایل دانلودی همه چیز مرتب و کامل و با فرمت ورد موجود است***

متن کامل را می توانید دانلود نمائید

چون فقط تکه هایی از متن پایان نامه در این صفحه درج شده (به طور نمونه)

ولی در فایل دانلودی متن کامل پایان نامه

 با فرمت ورد word که قابل ویرایش و کپی کردن می باشند

موجود است

تعداد صفحه : 33

قیمت : چهارده هزار تومان

 

بلافاصله پس از پرداخت ، لینک دانلود به شما نشان داده می شود

و به ایمیل شما ارسال می شود.

پشتیبانی سایت :        09124404335        info@arshadha.ir

در صورتی که مشکلی با پرداخت آنلاین دارید می توانید مبلغ مورد نظر برای هر فایل را کارت به کارت کرده و فایل درخواستی و اطلاعات واریز را به ایمیل ما ارسال کنید تا فایل را از طریق ایمیل دریافت کنید.

شماره کارت :  6037997263131360 بانک ملی به نام محمد علی رودسرابی

11

مطالب مشابه را هم ببینید

فایل مورد نظر خودتان را پیدا نکردید ؟ نگران نباشید . این صفحه را نبندید ! سایت ما حاوی حجم عظیمی از پایان نامه های دانشگاهی است. مطالب مشابه را هم ببینید. برای یافتن فایل مورد نظر کافیست از قسمت جستجو استفاده کنید. یا از منوی بالای سایت رشته مورد نظر خود را انتخاب کنید و همه فایل های رشته خودتان را ببینید