<?xml version="1.0"?>
<feed xmlns="http://www.w3.org/2005/Atom" xml:lang="de">
	<id>https://somm.fernkurs-wiki.de/w/index.php?action=history&amp;feed=atom&amp;title=Webcrawler</id>
	<title>Webcrawler - Versionsgeschichte</title>
	<link rel="self" type="application/atom+xml" href="https://somm.fernkurs-wiki.de/w/index.php?action=history&amp;feed=atom&amp;title=Webcrawler"/>
	<link rel="alternate" type="text/html" href="https://somm.fernkurs-wiki.de/w/index.php?title=Webcrawler&amp;action=history"/>
	<updated>2026-04-13T18:24:05Z</updated>
	<subtitle>Versionsgeschichte dieser Seite in Social Media Manager</subtitle>
	<generator>MediaWiki 1.37.0</generator>
	<entry>
		<id>https://somm.fernkurs-wiki.de/w/index.php?title=Webcrawler&amp;diff=374&amp;oldid=prev</id>
		<title>Lomerit: Die Seite wurde neu angelegt: „&#039;&#039;&#039;Webcrawler&#039;&#039;&#039; auch nur Crawler oder Spider oder Searchbot bezeichnet sind Computerprogramme die das Internet durchsuchen, analysieren und teilweise sortiere…“</title>
		<link rel="alternate" type="text/html" href="https://somm.fernkurs-wiki.de/w/index.php?title=Webcrawler&amp;diff=374&amp;oldid=prev"/>
		<updated>2015-07-17T15:19:20Z</updated>

		<summary type="html">&lt;p&gt;Die Seite wurde neu angelegt: „&amp;#039;&amp;#039;&amp;#039;Webcrawler&amp;#039;&amp;#039;&amp;#039; auch nur Crawler oder Spider oder Searchbot bezeichnet sind Computerprogramme die das Internet durchsuchen, analysieren und teilweise sortiere…“&lt;/p&gt;
&lt;p&gt;&lt;b&gt;Neue Seite&lt;/b&gt;&lt;/p&gt;&lt;div&gt;&amp;#039;&amp;#039;&amp;#039;Webcrawler&amp;#039;&amp;#039;&amp;#039; auch nur Crawler oder Spider oder Searchbot bezeichnet sind Computerprogramme die das Internet durchsuchen, analysieren und teilweise sortieren. &lt;br /&gt;
Die meisten Webcrawler werden von Suchmaschinen eingesetzt um Webseiten zu indizieren.&lt;br /&gt;
== Funktionsweise ==&lt;br /&gt;
Webcrawler funktionieren so gut wie eigenständig und wiederholen immer wieder ihren Aufgaben. Sie gelangen durch Hyperlinks von einer Website zur nächsten. Die gefundenen Websiten werden in einer festgelegten Reihenfolge aufgerufen.&lt;br /&gt;
Ein Webseiten Betreiber kann mit Hilfe der Datei robots.txt und bestimmer Metadaten im Header mitteilen ob und wie seine Webseite durchsucht werden soll.&lt;br /&gt;
== Geschichte ==&lt;br /&gt;
1993 entwickelte Mathew Gray mit dem WordWideWeb Wanderer den ersten Webcrawler. Dieser durchsuchte von 1993 – 1996  zweimal jährlich das Internet.&lt;br /&gt;
== Beispiele ==&lt;br /&gt;
* [https://support.google.com/webmasters/answer/182072?hl=de Googlebot]&lt;br /&gt;
* [https://support.apple.com/de-de/HT204683 Applebot]&lt;br /&gt;
==Quellen ==&lt;br /&gt;
1. http://www.gruenderszene.de/lexikon/begriffe/crawler (Abgerufen am 17.7.2015)&amp;lt;br /&amp;gt;&lt;br /&gt;
2. http://www.suchmaschinen-online.de/technik/geschichte.htm (Abgerufen am 17.7.2015)&amp;lt;br /&amp;gt;&lt;/div&gt;</summary>
		<author><name>Lomerit</name></author>
	</entry>
</feed>