根据《中华人民共和国刑事诉讼法》第十六条的规定：对于外国人犯罪应当追究刑事责任的，适用本法的规定。
对于享有外交特权和豁免权的外国人犯罪应当追究刑事责任的，通过外交途径解决。
以及第六条：凡在中华人民共和国领域内犯罪的，除法律有特别规定的以外，都适用本法
和第十一条：享有外交特权和豁免权的外国人的刑事责任，通过外交途径解决。
所以，外国人在中国犯罪的话，是否应当按中华人民共和国刑法追究刑事责任是要看犯罪嫌疑人的身份的，身份特殊的（例如外交官有外交豁免权之人），要与所属国家进行协商，但一般的都是按照中国的法律进行处罚。
法律依据：
《中华人民共和国刑事诉讼法》第十七条
对于外国人犯罪应当追究刑事责任的，适用本法的规定。对于享有外交特权和豁免权的外国人犯罪应当追究刑事责任的，通过外交途径解决。