《劳动法》第三十二条第一款规定的“在试用期内劳动者可以随时通知用人单位解除劳动合同”的情况，单位没有任何理由予以阻拦。
没有必要再去跟单位理论试用期不给合同是违法行为，更不用担心没有合同单位会惦记扣下你这一个月工资，因为法律对类似于你遇到的这种情况，做了明确规定。
1、劳动和社会保障部《关于确立劳动关系有关事项的通知》
一“用人单位招用劳动者未订立书面劳动合同，但同时具备下列情形的，劳动关系成立。
(一)用人单位和劳动者符合法律、法规规定的主体资格;
(二)用人单位依法制定的各项劳动规章制度适用于劳动者，劳动者受用人单位的劳动管理，从事用人单位安排的有报酬的劳动;
(三)劳动者提供的劳动是用人单位业务的组成部分。”
二、用人单位未与劳动者签订劳动合同，认定双方存在劳动关系时可参照下列凭证：
(一)工资支付凭证或记录(职工工资发放花名册)、缴纳各项社会保险费的记录;
(二)用人单位向劳动者发放的“工作证”、“服务证”等能够证明身份的证件;
(三)劳动者填写的用人单位招工招聘“登记表”、“报名表”等招用记录
(四)考勤记录;
(五)其他劳动者的证言等。
其中，(一)、(三)、(四)项的有关凭证由用人单位负举证责任。
因此，你们单位虽然试用期不给合同，但已经履行了一个阶段的试用期，已与单位形成事实劳动关系，你为单位提供了劳动，单位就必须向你支付工资或报酬。否则就侵害了你的合法权益，与你形成劳动争议。
你可以向公司住所地劳动争议仲裁委员会提出劳动仲裁，请求裁决单位支付克扣的工资及25%经济补偿金。
相关链接：
劳动部关于贯彻执行《中华人民共和国劳动法》若干问题的意见
40.劳动者依据劳动法第三十二条第(一)项解除劳动合同，用人单位可以不支付经济补偿金，但应按照劳动者的实际工作天数支付工资。
问题补充：
1、劳动仲裁的时限：
《劳动法》第八十二条“提出仲裁要求的一方应当自劳动争议发生之日起六十日内向劳动争议仲裁委员会提出书面申请。”
2、负有什么样的举证责任
参照劳动和社会保障部《关于确立劳动关系有关事项的通知》二的规定。
同时，试用期内的工资可以低于正式录用后的工资，但根据《江苏省劳动合同条例》第十四条规定：“劳动者在试用期间的劳动报酬不得低于本单位同工种同岗位最低档工资的百分之八十，并不得低于当地最低工资标准。”也就是说，不管是试用期还是正式录用期，其工资均不应低于当地最低工资标准。
所以你工作了39天他就要给你39天的钱
员工使用期解除劳动合同，工资按照之前约定的试用期工资发放。如果劳动合同中对试用期工资未明确约定，需要双方协商，或执行集体合同，劳动者在试用期的工资不得低于本单位相同岗位最低档工资或者劳动合同约定工资的百分之八十，并不得低于用人单位所在地的最低工资标准。
依据《中华人民共和国劳动合同法》
第十八条劳动合同对劳动报酬和劳动条件等标准约定不明确，引发争议的，用人单位与劳动者可以重新协商;协商不成的，适用集体合同规定;没有集体合同或者集体合同未规定劳动报酬的，实行同工同酬;没有集体合同或者集体合同未规定劳动条件等标准的，适用国家有关规定。
第十九条劳动合同期限三个月以上不满一年的，试用期不得超过一个月;劳动合同期限一年以上不满三年的，试用期不得超过二个月;三年以上固定期限和无固定期限的劳动合同，试用期不得超过六个月。
同一用人单位与同一劳动者只能约定一次试用期。
以完成一定工作任务为期限的劳动合同或者劳动合同期限不满三个月的，不得约定试用期。
试用期包含在劳动合同期限内。劳动合同仅约定试用期的，试用期不成立，该期限为劳动合同期限。
第二十条劳动者在试用期的工资不得低于本单位相同岗位最低档工资或者劳动合同约定工资的百分之八十，并不得低于用人单位所在地的最低工资标准。