robots.txt 파일이 없다고 해서 문제가 될 것 같지는 않습니다.
참고로 워드프레스의 경우 robots.txt 파일이 없는 경우, 사이트주소/robots.txt 에 접속하면 다음과 같은 내용이 표시됩니다.
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Sitemap: https://example.co.kr/wp-sitemap.xml
그러므로 정상적인 경우에는 robots.txt 파일로 문제가 되지는 않습니다.
robots.txt 파일 커스텀하고 싶은 경우 두 가지 방법이 있습니다.
수동으로 robots.txt 파일 업로드하기
다음 순서에 따라 robots.txt 파일을 업로드해보시기 바랍니다.
1. 메모장을 열고 다음과 비슷한 코드를 추가합니다.
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Sitemap: https://example.com/wp-sitemap.xml
사이트맵 주소는 적절히 수정합니다.
2. 파일을 저장하고 이름을 robots.txt로 지정합니다.
3. ftp를 통해 접속하여 도메인의 루트 폴더로 robots.txt 파일을 업로드합니다.
robots.txt 파일이 잘 작동하는지 확인합니다.
robots.txt 파일 최적화에 대하여 다음 글을 참고해보세요.
워드프레스 Robots.txt 파일 만들기 및 최적화하기
플러그인을 사용하여 robots.txt 파일 생성하기
Virtual Robots.txt 같은 플러그인을 사용하면 FTP로 업로드할 수 없는 상황에서 robots.txt 파일을 생성할 수 있습니다.
Virtual Robots.txt
하지만 FTP에 접속 가능한 경우 이 방법은 비추입니다. 이런 기능 때문에 플러그인을 사용할 필요는 없습니다.
가입형 워드프레스(워드프레스닷컴)의 경우 이 방법으로 robots.txt 파일을 업로드하는 것이 가능합니다.
robots.txt 파일이 작동하지 않는 경우
robots.txt 파일이 작동하지 않는 경우에는 다음 글을 참고하여 해결을 시도해보시기 바랍니다.
https://avada.tistory.com/2407
그래도 해결이 안 되면 웹호스팅에 연락하여 robots.txt 파일을 구글이나 네이버에서 접근하는 것을 차단하고 있지는 않은지도 체크해보세요.
웹호스팅의 방화벽이 작동하는 경우 (예: 카페24) 방화벽을 끈 후에도 테스트해볼 수 있을 것입니다.