This discussion has been locked.
You can no longer post new replies to this discussion. If you have a question you can start a new discussion

Problem IPSec L2TP; stops before auth err 678

We are trying to set up an IPSec L2TP session from WindowsXP computer to Astaro V5 and we don't get it working. We followed all the instructions in the available documentation. Maybe somebody could check this log; the only thing that we noticed was that it is saying something about malformed payload.
Here is a part of the logging:

2004:06:17-01:20:52 (none) pluto[24223]: | 
2004:06:17-01:20:52 (none) pluto[24223]: | *received 216 bytes from 80.56.53.187:64933 on eth1
2004:06:17-01:20:52 (none) pluto[24223]: | **parse ISAKMP Message:
2004:06:17-01:20:52 (none) pluto[24223]: | initiator cookie:
2004:06:17-01:20:52 (none) pluto[24223]: | 6b ab 01 88 c6 7d 60 f1
2004:06:17-01:20:52 (none) pluto[24223]: | responder cookie:
2004:06:17-01:20:52 (none) pluto[24223]: | 00 00 00 00 00 00 00 00
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_SA
2004:06:17-01:20:52 (none) pluto[24223]: | ISAKMP version: ISAKMP Version 1.0
2004:06:17-01:20:52 (none) pluto[24223]: | exchange type: ISAKMP_XCHG_IDPROT
2004:06:17-01:20:52 (none) pluto[24223]: | flags: none
2004:06:17-01:20:52 (none) pluto[24223]: | message ID: 00 00 00 00
2004:06:17-01:20:52 (none) pluto[24223]: | length: 216
2004:06:17-01:20:52 (none) pluto[24223]: | The xchg type is ISAKMP_XCHG_IDPROT (2)
2004:06:17-01:20:52 (none) pluto[24223]: | ***parse ISAKMP Security Association Payload:
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_VID
2004:06:17-01:20:52 (none) pluto[24223]: | length: 164
2004:06:17-01:20:52 (none) pluto[24223]: | DOI: ISAKMP_DOI_IPSEC
2004:06:17-01:20:52 (none) pluto[24223]: | ***parse ISAKMP Vendor ID Payload:
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_NONE
2004:06:17-01:20:52 (none) pluto[24223]: | length: 24
2004:06:17-01:20:52 (none) pluto[24223]: packet from 80.56.53.187:64933: ignoring Vendor ID payload [MS NT5 ISAKMPOAKLEY 00000003]
2004:06:17-01:20:52 (none) pluto[24223]: | VID: 1e 2b 51 69 05 99 1c 7d 7c 96 fc bf b5 87 e4 61
2004:06:17-01:20:52 (none) pluto[24223]: | 00 00 00 03
2004:06:17-01:20:52 (none) pluto[24223]: | ****parse IPsec DOI SIT:
2004:06:17-01:20:52 (none) pluto[24223]: | IPsec DOI SIT: SIT_IDENTITY_ONLY
2004:06:17-01:20:52 (none) pluto[24223]: | ****parse ISAKMP Proposal Payload:
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_NONE
2004:06:17-01:20:52 (none) pluto[24223]: | length: 152
2004:06:17-01:20:52 (none) pluto[24223]: | proposal number: 1
2004:06:17-01:20:52 (none) pluto[24223]: | protocol ID: PROTO_ISAKMP
2004:06:17-01:20:52 (none) pluto[24223]: | SPI size: 0
2004:06:17-01:20:52 (none) pluto[24223]: | number of transforms: 4
2004:06:17-01:20:52 (none) pluto[24223]: | *****parse ISAKMP Transform Payload (ISAKMP):
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_T
2004:06:17-01:20:52 (none) pluto[24223]: | length: 36
2004:06:17-01:20:52 (none) pluto[24223]: | transform number: 1
2004:06:17-01:20:52 (none) pluto[24223]: | transform ID: KEY_IKE
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_ENCRYPTION_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 5
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_HASH_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 2
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_GROUP_DESCRIPTION
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 2
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_AUTHENTICATION_METHOD
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_TYPE
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_DURATION (variable length)
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 4
2004:06:17-01:20:52 (none) pluto[24223]: | *****parse ISAKMP Transform Payload (ISAKMP):
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_T
2004:06:17-01:20:52 (none) pluto[24223]: | length: 36
2004:06:17-01:20:52 (none) pluto[24223]: | transform number: 2
2004:06:17-01:20:52 (none) pluto[24223]: | transform ID: KEY_IKE
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_ENCRYPTION_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 5
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_HASH_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_GROUP_DESCRIPTION
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 2
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_AUTHENTICATION_METHOD
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_TYPE
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_DURATION (variable length)
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 4
2004:06:17-01:20:52 (none) pluto[24223]: | *****parse ISAKMP Transform Payload (ISAKMP):
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_T
2004:06:17-01:20:52 (none) pluto[24223]: | length: 36
2004:06:17-01:20:52 (none) pluto[24223]: | transform number: 3
2004:06:17-01:20:52 (none) pluto[24223]: | transform ID: KEY_IKE
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_ENCRYPTION_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_HASH_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 2
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_GROUP_DESCRIPTION
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_AUTHENTICATION_METHOD
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_TYPE
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_DURATION (variable length)
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 4
2004:06:17-01:20:52 (none) pluto[24223]: | *****parse ISAKMP Transform Payload (ISAKMP):
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_NONE
2004:06:17-01:20:52 (none) pluto[24223]: | length: 36
2004:06:17-01:20:52 (none) pluto[24223]: | transform number: 4
2004:06:17-01:20:52 (none) pluto[24223]: | transform ID: KEY_IKE
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_ENCRYPTION_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_HASH_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_GROUP_DESCRIPTION
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_AUTHENTICATION_METHOD
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_TYPE
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_DURATION (variable length)
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 4
2004:06:17-01:20:52 (none) pluto[24223]: | instantiated "S_OlofRemote_1" for 80.56.53.187
2004:06:17-01:20:52 (none) pluto[24223]: | creating state object #39 at 0x80f1c88
2004:06:17-01:20:52 (none) pluto[24223]: | ICOOKIE: 6b ab 01 88 c6 7d 60 f1
2004:06:17-01:20:52 (none) pluto[24223]: | RCOOKIE: c6 b3 64 8c 49 f2 cc 18
2004:06:17-01:20:52 (none) pluto[24223]: | peer: 50 38 35 bb
2004:06:17-01:20:52 (none) pluto[24223]: | state hash entry 29
2004:06:17-01:20:52 (none) pluto[24223]: | inserting event EVENT_SO_DISCARD, timeout in 0 seconds for #39
2004:06:17-01:20:52 (none) pluto[24223]: "S_OlofRemote_1"[33] 80.56.53.187:64933 #39: responding to Main Mode from unknown peer 80.56.53.187:64933
2004:06:17-01:20:52 (none) pluto[24223]: | **emit ISAKMP Message:
2004:06:17-01:20:52 (none) pluto[24223]: | initiator cookie:
2004:06:17-01:20:52 (none) pluto[24223]: | 6b ab 01 88 c6 7d 60 f1
2004:06:17-01:20:52 (none) pluto[24223]: | responder cookie:
2004:06:17-01:20:52 (none) pluto[24223]: | c6 b3 64 8c 49 f2 cc 18
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_SA
2004:06:17-01:20:52 (none) pluto[24223]: | ISAKMP version: ISAKMP Version 1.0
2004:06:17-01:20:52 (none) pluto[24223]: | exchange type: ISAKMP_XCHG_IDPROT
2004:06:17-01:20:52 (none) pluto[24223]: | flags: none
2004:06:17-01:20:52 (none) pluto[24223]: | message ID: 00 00 00 00
2004:06:17-01:20:52 (none) pluto[24223]: | ***emit ISAKMP Security Association Payload:
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_NONE
2004:06:17-01:20:52 (none) pluto[24223]: | DOI: ISAKMP_DOI_IPSEC
2004:06:17-01:20:52 (none) pluto[24223]: | ****parse IPsec DOI SIT:
2004:06:17-01:20:52 (none) pluto[24223]: | IPsec DOI SIT: SIT_IDENTITY_ONLY
2004:06:17-01:20:52 (none) pluto[24223]: | ****parse ISAKMP Proposal Payload:
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_NONE
2004:06:17-01:20:52 (none) pluto[24223]: | length: 152
2004:06:17-01:20:52 (none) pluto[24223]: | proposal number: 1
2004:06:17-01:20:52 (none) pluto[24223]: | protocol ID: PROTO_ISAKMP
2004:06:17-01:20:52 (none) pluto[24223]: | SPI size: 0
2004:06:17-01:20:52 (none) pluto[24223]: | number of transforms: 4
2004:06:17-01:20:52 (none) pluto[24223]: | *****parse ISAKMP Transform Payload (ISAKMP):
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_T
2004:06:17-01:20:52 (none) pluto[24223]: | length: 36
2004:06:17-01:20:52 (none) pluto[24223]: | transform number: 1
2004:06:17-01:20:52 (none) pluto[24223]: | transform ID: KEY_IKE
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_ENCRYPTION_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 5
2004:06:17-01:20:52 (none) pluto[24223]: | [5 is OAKLEY_3DES_CBC]
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_HASH_ALGORITHM
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 2
2004:06:17-01:20:52 (none) pluto[24223]: | [2 is OAKLEY_SHA]
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_GROUP_DESCRIPTION
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 2
2004:06:17-01:20:52 (none) pluto[24223]: | [2 is OAKLEY_GROUP_MODP1024]
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_AUTHENTICATION_METHOD
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | [1 is OAKLEY_PRESHARED_KEY]
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_TYPE
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 1
2004:06:17-01:20:52 (none) pluto[24223]: | [1 is OAKLEY_LIFE_SECONDS]
2004:06:17-01:20:52 (none) pluto[24223]: | ******parse ISAKMP Oakley attribute:
2004:06:17-01:20:52 (none) pluto[24223]: | af+type: OAKLEY_LIFE_DURATION (variable length)
2004:06:17-01:20:52 (none) pluto[24223]: | length/value: 4
2004:06:17-01:20:52 (none) pluto[24223]: | long duration: 28800
2004:06:17-01:20:52 (none) pluto[24223]: | Oakley Transform 1 accepted
2004:06:17-01:20:52 (none) pluto[24223]: | ****emit IPsec DOI SIT:
2004:06:17-01:20:52 (none) pluto[24223]: | IPsec DOI SIT: SIT_IDENTITY_ONLY
2004:06:17-01:20:52 (none) pluto[24223]: | ****emit ISAKMP Proposal Payload:
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_NONE
2004:06:17-01:20:52 (none) pluto[24223]: | proposal number: 1
2004:06:17-01:20:52 (none) pluto[24223]: | protocol ID: PROTO_ISAKMP
2004:06:17-01:20:52 (none) pluto[24223]: | SPI size: 0
2004:06:17-01:20:52 (none) pluto[24223]: | number of transforms: 1
2004:06:17-01:20:52 (none) pluto[24223]: | *****emit ISAKMP Transform Payload (ISAKMP):
2004:06:17-01:20:52 (none) pluto[24223]: | next payload type: ISAKMP_NEXT_NONE
2004:06:17-01:20:52 (none) pluto[24223]: | transform number: 1
2004:06:17-01:20:52 (none) pluto[24223]: | transform ID: KEY_IKE
2004:06:17-01:20:52 (none) pluto[24223]: | emitting 28 raw bytes of attributes into ISAKMP Transform Payload (ISAKMP)
2004:06:17-01:20:52 (none) pluto[24223]: | attributes 80 01 00 05 80 02 00 02 80 04 00 02 80 03 00 01
2004:06:17-01:20:52 (none) pluto[24223]: | 80 0b 00 01 00 0c 00 04 00 00 70 80
2004:06:17-01:20:52 (none) pluto[24223]: | emitting length of ISAKMP Transform Payload (ISAKMP): 36
2004:06:17-01:20:52 (none) pluto[24223]: | emitting length of ISAKMP Proposal Payload: 44
2004:06:17-01:20:52 (none) pluto[24223]: | emitting length of ISAKMP Security Association Payload: 56
2004:06:17-01:20:52 (none) pluto[24223]: | emitting length of ISAKMP Message: 84
2004:06:17-01:20:52 (none) pluto[24223]: "S_OlofRemote_1"[33] 80.56.53.187:64933 #39: transition from state (null) to state STATE_MAIN_R1
2004:06:17-01:20:52 (none) pluto[24223]: | inserting event EVENT_RETRANSMIT, timeout in 10 seconds


This thread was automatically locked due to age.