robots.txt ジェネレーター

サイト運営者やコンテンツ制作者が、新しいページの公開や共有を準備する場面に向いています。サイトマップ付きのrobots.txtファイルを作成します。

サイトマップ付きのrobots.txtファイルを作成します。結果はブラウザーにすぐ表示され、登録、アップロード、保存なしでそのままコピーできます。

使い方

  1. 使用するドメインを示すために、サイトのベースアドレスをページパスなしで入力します。
  2. 生成操作を実行して、ルールとサイトマップの場所を含むrobots.txtコンテンツを作成します。
  3. 生成されたテキストを読み、ドメインとサイトマップのパスが実際のサイトと一致することを確認します。
  4. 結果をrobots.txtという名前のファイルにコピーし、ウェブサイトのルートに配置します。

使用例

サンプルでは単純なドメインアドレスを使用しています。生成後、サイトマップ行がそのドメインを反映しているか、ディレクティブがインデックスさせたいページをブロックしていないかを確認してください。

入力

https://example.com

出力

User-agent: *
Allow: /

Sitemap: https://example.com/sitemap.xml

制限と形式

処理の場所

robots.txtの内容はブラウザ内で生成されます。入力したアドレスはデバイスから離れず、ツールによって何も保存されず、テキストはページからコピーできる状態になります。

よくある質問

robots.txtファイルはどこに置くべきですか?

ドメインのルート、通常のrobots.txtアドレスでアクセスできる必要があります。サブフォルダに置かれたファイルは、クローラーによってメインのrobots.txtファイルとして扱われません。

ツールはサイトマップを自動的に作成しますか?

入力したドメインに基づいてサイトマップの場所を指す行を生成します。サイトマップファイル自体は作成しません。告知するアドレスに有効なサイトマップが利用可能である必要があります。

このジェネレーターでサイト全体をブロックできますか?

生成されるファイルには一般的なディレクティブが含まれます。サイト全体をブロックしたい場合は、ファイルに一致するルールを追加するか、結果を編集する必要があります。公開する前に必ず内容を確認してください。

同じカテゴリのツール