甲公司在取得乙公司40%股权时，应做的会计分录如下：

1. 计算应享有乙公司可辨认净资产公允价值份额： 乙公司可辨认净资产公允价值 = 8000万元 甲公司应享有份额 = 8000万元 × 40% = 3200万元

2. 计算长期股权投资初始投资成本与应享有份额的差额： 差额 = 实际支付价款 - 应享有份额 = 3500万元 - 3200万元 = 300万元

3. 记入当期损益（营业外收入）并调整长期股权投资成本： 借：长期股权投资——投资成本 3200万元 贷：银行存款 3500万元 营业外收入 300万元

因此，甲公司对乙公司的长期股权投资初始投资成本为3200万元。