middleman-robots
は Middleman の拡張機能です。 config.rb
に記述されたルールに基いて robots.txt
を作ります。
Gemfile に次の行を追加してください:
gem 'middleman-robots'
コマンドを実行します:
$ bundle
Gemfile を使わずにインストールする場合は次のコマンドを実行してください:
$ gem install middleman-robots
基本的な使い方です:
# config.rb
activate :robots,
:rules => [
{:user_agent => '*', :allow => %w(/)}
],
:sitemap => "http://example.com/sitemap.xml"
作成される robots.txt
:
User-Agent: *
Allow: /
Sitemap: http://example.com/sitemap.xml
オプションには :rules
[{:user_agent
(string), :allow
(array), :disallow
(array)}] と :sitemap
を指定できます。すべてのオプションを指定すると次のようになります:
# config.rb
activate :robots,
:rules => [
{
:user_agent => 'Googlebot',
:disallow => %w(tmp/ /something/dir/file_disallow.html),
:allow => %w(allow/ /something/dir/file_allow.html)
},
{
:user_agent => 'Googlebot-Image',
:disallow => %w(tmp/ /something/dir/file_disallow.html),
:allow => %w(allow/ /something/dir/file_allow.html)
}
],
:sitemap => "http://example.com/sitemap.xml"
作成される robots.txt
:
User-Agent: Googlebot
Disallow: /tmp/
Disallow: /something/dir/file_disallow.html
Allow: /allow/
Allow: /something/dir/file_allow.html
User-Agent: Googlebot-Image
Disallow: /tmp/
Disallow: /something/dir/file_disallow.html
Allow: /allow/
Allow: /something/dir/file_allow.html
Sitemap: http://example.com/sitemap.xml
- Fork it ( https://github.com/yterajima/middleman-robots/fork )
- Create your feature branch (
git checkout -b my-new-feature
) - Commit your changes (
git commit -am 'Add some feature'
) - Push to the branch (
git push origin my-new-feature
) - Create a new Pull Request