#小森林 〖隐私相关设定〗
Mastodon是通过一个noindex标签来禁止搜索引擎收录用户。但是一些国内搜索引擎,比如百度并不识别这个标签,所以站内设置的【禁止搜索引擎建立索引】是无效的。根本方法是设置 robots.txt
本站用户如果需要禁止收录自己的内容,请到这里提交PR,以在本站 robots.txt 中加入你名下的目录:
https://github.com/mashirozx/hello_robots_txt
@xiamx good idea,坐等
@mashiro 一起搬个板凳等
@mashiro 然而不认robots.txt的蜘蛛也很多啊,比如之前有段时间好多人不就说被今日头条系的蜘蛛疯狂爬吗?
归根到底不希望被收录最好做法还是设置内容默认非公开。
@mashiro 最好还是改 nginx 配置,把那几个搜索 bot 按 ua 屏蔽掉
@aglaophotis 我想收录,只是有个别用户不想收录
@mashiro nginx 屏蔽也不一定是全站屏蔽啊
@mashiro 在 header 里加入 <meta name="robots" content="noindex, nofollow">
@mashiro 可以魔改下 mastodon 让他动态生成 roboots.txt